据说当年跟随朱元璋打天下的将领就有很多回族人，号称“七十二家回王”。明朝迁都后，便有很多回民官员居于京师。明正统十二年（1447年），后军都督同知陈友（回民）捐资创建东四清真寺。后来又经历了多次修建和重修。
东四清真寺整体坐东朝西，有前、中、后三进院落。临街为大门三间，灰筒瓦硬山顶，虽为王府式大门、但极近代风格。门内有砖砌的西式厢房，南北各有一小间和六大间，水房设在北厢房。二门为五间，前后带廊，前廊部分用砖砌成。西式门面，带砖券门，为中西合璧式建筑。二门内为一小院，过小院有一座垂花门，门南北有带漏窗的走廊；此处原为邦克楼（宣礼楼）位置，后被毁。
现仅存有一直径约0.65米的铜制宝顶，上铸阳文“成化丙午年造”（成化丙午年即明宪宗成化二十二年，即公元1486年），存放于大殿抱厦前廊内。
中院建筑是清末民初改建的。垂花门内为第三进院落、即后院，宏大而宽敞，礼拜殿位于院中，具有典型的明代建筑特点，是整个寺院的主要建筑。
礼拜殿坐西朝东，灰筒瓦庑殿顶，面阔五间，前带抱厦，殿内雕梁画栋、金碧辉煌，可容纳500多人同时进行礼拜。
殿前院矗立有两碑，两碑间有六角形攒间“香炉庭”，庭中置明代香炉。大殿前半部为木结构，后半部的窑殿为无梁式穹窿顶结构（这种结构也被俗称为“无梁殿”）。
