“翰林”之名汉代已有，本指文学之林，是文翰荟萃所在。唐代开始作为官及官署名，最初的性质是“天下以艺能技术见召者之所处也”
翰林院最早设于唐代。唐玄宗时，置翰林院，内设有翰林待诏、翰林供奉，后来又称翰林学士，为文学侍从之官。如唐代大诗人李白被称为翰林学士。后来，翰林院演变为草拟机密诏制的重要机构。
安史之乱后，军事频繁，“深谋密诏，皆从中出”，翰林学士地位愈来愈重要，不但在草拟诏制方面分割了中书舍人之权，而且，也在参谋密计方面分割了宰相之权。
宋代进一步抬高了翰林学士的地位，设立翰林学士院，与实际掌政事堂（中书门下）枢密院居平等地位，很多宰相都从翰林院学士中选拔。
辽代设置翰林院，掌汉文文书及刑狱诸事。元代设翰林院兼国史院，分别掌管制定诏旨，编修国史和翻译文学等。
明代开始将修史、著作、图书等事务归并翰林院，正式成为外朝官署。
明代翰林院官员具有两重意义：其一，作为参预机务的内阁成员。自明宪宗成化（公元1465——1487年）以后，不但内阁，就连六部长官也有定例以翰林官充任的。其二，明代的翰林院包括前代的秘书监、史馆、著作局、起居郎、舍人等职；因此，这些官名均已废除。事实上连这些官的职务也废除了，有时不过作为装点门面而已。
清代翰林院以大学士为掌院学士，其下设侍读学士、侍讲学士、侍读、侍讲、修撰、编修、检讨等官。
