Im vierzehnten Jahr der Regierungszeit der Kitan (996) kam ein arabischer Scheich Nasreddin nach Beijing und baute in den südlichen Vororten des Dorfes Liuhe eine Moschee, nämlich die Niujie-Moschee. Hauptgebäude der Moschee sind die Anbetungshalle (auch als Kiln-Halle bekannt), das Bangge-Gebäude, der Stele-Pavilion, das Wangyue-Gebäude und der Gast-Raum (auch als Sieben-Räume bezeichnet). Die Anbetungshalle ist das Hauptgebäude des gesamten Tempels. Sie ist nach Osten ausgerichtet und bietet Platz für Tausende von Menschen zur gleichzeitigen Anbetung. Im Westen der Halle befindet sich ein sechseckiges Pavillongebäude mit Nischen voller geschnitzter arabischer Schriften und Blumen. Auf der Nordwestseite der Halle befindet sich ein Missionsschalter, wo Imame beim Freitagsgebet oder Festen predigen. Das Bangge-Gebäude wird verwendet, um die Zeit zu melden und die Menschen vor dem Gottesdienst zum Gottesdienst zu rufen. Deshalb wird es auch als Minarett-Gebäude oder Turm für den Gebetsrufer bezeichnet. Auf beiden Seiten der Plattform der Anbetungshalle befinden sich zwei symmetrische quadratische Pavillons. Die Stele im Pavillon wurde im neunten Jahr des Kaisers Hongzhi in der Ming-Dynastie (1496) errichtet. Das Wangyue-Gebäude befindet sich zwischen den beiden Toren vor der Moschee. Es ist sechseckig und wird von den Menschen verwendet, um den Mond vor dem Fest des Fastenbrechens zu beobachten. Das Wangyue-Gebäude ist ein typisches Gebäude in einer Moschee.

Die Architektur der Moschee ist ordentlich angelegt. Die Haupthalle ist einfach und großartig, und alle wichtigen architektonischen Dekorationen sind im arabischen Stil gehalten, was äußerst exquisit ist. Nach der Gründung der Volksrepublik China besuchten viele Würdenträger und Freunde aus arabischen Ländern die Moschee.