太学也是古代的高等教育机构，我国很早就有了太学，周王室的太学以南北东西中为序，分别叫“成钧”、“上庠”、“东序”、“瞽宗”和“辟雍”。“辟雍”则为其总代称。太学里的主要教学内容是“六艺”——礼、乐、射、御、书、数。当时“学在官府”，只有贵族子弟才能入学。
西周太学又名大学，天子和诸侯均设之，大学在郊，天子曰辟雍，诸侯曰泮宫。不过辟雍和泮宫不是纯粹的大学，这地方亦如宫廷，贵族们常在这里祭祀、举行宴会、选拔武士、议定作战计划。打了胜仗，也到这里“献俘”“告功”。这是因为：“古人宫室无多，凡祭礼、军礼、学礼，及望气、治历、养老、习射、遵贤之典，咸行于明堂。而明堂、太庙、太学、灵台咸为一地。”
汉武帝在位时，尊孔崇儒，兴办太学，太学成为设在京师的全国最高教育机构。最初太学只设五经博士，置博士弟子50名，专门学习和研究儒家经书。汉成帝时太学生增至3000人。王莽统治时期，为了树立自己的声望，笼络广大儒生，在长安广置太学，博士弟子达万余人，规模之大，前所未有。
东汉时，太学规模更大，顺帝永建元年（126年），对太学进行重建和扩建，费时一年，用工112000人，建成240房，1850室，所招学生称之为太学生，达3万多人。
汉灵帝还让大书法家蔡邕等人把儒家经典刻在46块碑上（即著名的《熹平石经》），来抄写经文的太学生车水马龙，盛况空前。
西晋以后，太学和国子学并存，成为中央办学的两种形式。唐代，太学规模完备，盛极一时。太学的教师，主要是博士。博士的主要职责是授业传道，此外，还要奉使议政，试贤举能。
太学的学生，历代称谓不一，有称“博士弟子”的，有称“太学生”和“诸生”的。太学以儒家五经作为基本教材，讲授“孔子之术，六艺之文”。历代太学都制定有规章制度，严禁各种“离经叛道”的思想行为。
