金台书院是由义学演变而来，而义学的最初创办者是当时的顺天府尹钱晋锡。 钱晋锡创办义学并将其扩建到了书院的规模，但此时尚未有“金台书院”之名。 “顺天府义学主事”王源在其所著的《顺天书院记》中曾对当时的义学以“顺天书院”称之，但称之为“义学”者更众，直到乾隆十五年（1750年）才正式“改为书院、有御制碑”，并借东郊“燕京八景”之一的“金台夕照”之名改称为“金台书院”。
金台书院隶属顺天府官署管理，所收学员主要是京师和各省准备参加会试、殿试的举人和贡生，但顺天府的童生亦可就读。书院主持人多为有名之士。康熙年间举人王源，雍正年间进士陈兆苍都曾做过金台书院的院长。书院设院长、学副、上舍等名额，并聘有主讲。除官课外，每月还有师课（指书院定期聘请一些学者讲课）。教学内宾主要是习作八股文，临摹法帖，有时也讲授一些经书义理。每逢朔望之日，京兆府尹常亲临考场监考，对考试成绩优秀者给予“膏火”（即灯火，比作灯油费，多指求学费用）奖励，作为就学的资助。书院如发现人才，则立即上疏推荐。这种破格以求的精神，说明书院为清朝培养和物色人才的办学目的是很明确的。
光绪三十一年（1905年），金台书院停办改为“顺直学堂”，金台书院原址1912年改为“顺直中学”；新中国成立前先后改为“师范学校”“公立第十六高等小学校”，新中国成立后先后为东城区第一中心小学、东晓市小学、金台小学，2011年更名为金台书院小学至今。 书院办学获得广泛支持 金台书院地处京城又加之教化成果日盛，获得了自皇帝至京城各级官员乃至士绅百姓的重视和支持，先后经历了多次修缮，办学经费充裕，还有大量捐书等助学兴学举措。
2010年7月1日19时38分，崇文区正式撤销，与东城区合并；自此，崇文区便成为历史。
