我国古代学校的起源，可以追溯到4000多年前，相传在虞舜时代，我国就已经出现了称之为“庠”的学校。高一级的叫“上庠”，近似国学的前身；低一级的叫“小庠”，近似乡学的前身。
公元前3000年左右，我国已有“图书文字”和“象形文字”了。于是也就有了专门传授和学习文字的机构“成均”。这也是学校的最初萌芽。
到夏朝时学校分成了四种，按其级别的高下分别称之为“学”、“东序”、“西序”和“校”。商朝取代夏以后，又将这四种学校的名称改为“学”、“右学”、“左学”和“序”。
西周时较高级的学校，分别称之为“辟雍”、“成钧”、“上庠”、“东序”、“瞽宗”。其中“辟雍”最尊。在诸侯各国则有称为“泮宫”的学校，较低一级的学校，有每25家设立的“家塾”，也有每500家设立的“序”。
到了汉代，最高一级的学校称为“太学”，太学以下的学校有“东学”、“南学”、“西学”、“北学”等。魏晋南北朝时“太学”又称为“国子学”；北齐时则将其称为“国子寺”。至隋代，隋炀帝又将“国子寺”改名为“国子监”。此后，“国子监”之称一直沿用到明、清两代，但后来被称为“国子监”的已非以前性质的学校，而是一种实施教育管理的部门，至于各类学校则分别称之为“书院”、“书堂”、“私塾”等等。
至于“学”和“校”两字的合用，最早见于《诗经》，比较严格意义上的见于汉朝。《汉书•董仲舒传》上有“抑黜百家，立学校之官”。《汉书•循吏•文翁传》说：“至武帝时，乃令天下郡国，皆立学校官。”班固《东都赋》中也有“是以四海之内，学校如林”之语，可见汉代学校已经盛况空前了。
