La orden de las religiosas de la "Sagrada Familia de Burdeos" llegan a Getafe en el año 1857 animadas por la Madre Rita Bonnat y bajo la dirección de la Madre Constance Constans, para tratar de resolver el problema existente de atención a los enfermos del Hospital de San José, a petición del alcalde de la localidad y la Junta de Beneficiencia del propio hospital. Es el momento en el que cuatro religiosas se instalan en las dependencias adaptadas en el Hospital de San José siendo su cometido asistir y cuidar de los enfermos existentes en el establecimiento, incluyendo tareas de cocina y limpieza, tanto de ropas como de salas y locales.

Posteriormente, las familias y las autoridades de la localidad solicitan a las religiosas su dedicación a la ensañanza, una rama en la que poseían gran prestigio por su trabajo en Francia y por el colegio "Nuestra Señora de Loreto" en Madrid. En 1858, la Congregación da los pasos para iniciar las obras del Colegio. Fue tanta la demanda de plazas, que para poder llevar a cabo dicha tarea, por mediación de los PP. del colegio de Escuelas Pías, la superiora de la congregación la Madre Constance Constans solicita un local habilitado en el "Hospitalillo" para iniciar la instrucción de niñas bajo el título Inmaculada Concepción, hasta que se pudieran dar por finalizadas las obras.

La inauguración del Colegio tiene lugar en 1859, ya que abandonan definitivamente el hospital por diferentes divergencias entre el administrador y la superiora al verse reducidos de forma considerable los recursos facilitados para llevar a cabo su tarea en el hospital.

A partir de 1863 el Colegio está en pleno funcionamiento en la calle Madrid como centro para alumnas internas y externas; pasando a ser noviciado de las religiosas entre los años 1870 y 1880. En 1933 el colegio toma el nombre de "Rosalía de Castro" de acuerdo con la nueva legislación surgida en el cambio político.

En julio de 1936, durante la Guerra Civil, el colegio queda protegido por la embajada de Francia en Madrid, dada la procedencia del instituto religioso. En este momento el Colegio acoge a la comunidad de las Madres Carmelitas del Cerro de los Ángeles y su abadesa la Madre Maravillas de Jesús, hasta su traslado a Madrid; a la Virgen de los Ángeles y a las religiosas de la orden de Jesús Nazareno, pasando a ser en este momento a la rama de San José, nombre que recibe el actual Colegio. Incluso se alojan en las dependencias del Centro algunos militares. En los años posteriores a la Guerra Civil el Colegio se considera oficialmente como el internado de las huérfanas del Cuerpo de funcionarios de Correos y Telégrafos y del Cuerpo de la Guardia Civil, con el ingreso de unas cien huérfanas.

Por los años setenta se cierra el internado y parte de los edificios que dan a la calle Madrid son vendidos, iniciándose entonces las obras de la construcción del nuevo colegio tras el derribo de las viejas edificaciones, entre ellas la iglesia neo gótica, instalaciones actuales del centro que a día de hoy albergan a los alumnos de Educación Primaria y Secundaria. En 2007 se inaugura el nuevo edificio que alojará a los diferentes cursos de Educación Infantil. 

En la actualidad, el Colegio San José de Getafe, con sus más de 700 alumnos y más de 40 profesores, sigue fiel a su propósito de propiciar la participación, la formación y el encuentro de todos los componentes de su Familia: alumnos, profesores y padres.