O Grupo Escolar foi instalado pela publicação no Diário Oficial do Estado de São Paulo, em 22 de maio de 1941, com o nome “Grupo Escolar da Fazenda Ermida”.
Em 30 de maio de 1991 teve a primeira ampliação feita pela Prefeitura Municipal de Jundiaí, aumentando o número de dependências para melhor atender a demanda escolar da comunidade.
Em 02 de agosto de 1999, houve a municipalização de alunos de 1º aos 4ºs anos do Ensino Fundamental, de acordo com a Lei Complementar nº 271, de 10 de junho de 1999, publicada na Imprensa Oficial do Município. A EMEB Rafael de Oliveira foi criada pelo Decreto nº 17.486, de 10 de setembro de 1999, publicada na Imprensa Oficial em 17 de setembro de 1999. No ano de 2001, a Escola foi ampliada com 5 salas.