>1935年（昭和10年）に神戸在住のインド系ムスリムらによって神戸モスクが日本で初めて建設されたのを皮切りに、ロシア革命を逃れたタタール人移民と地元の支援によって1936年に名古屋に名古屋モスク（現在の名古屋モスクとは無関係）が、1938年には東京市に東京回教礼拝堂（東京モスク）が開堂したが、名古屋モスクは戦災で焼失し、再建されなかった。

>戦後はインドネシアが目黒区に設置した大使館およびインドネシア学校の礼拝所が一般のムスリムにも公開され、サウジアラビアのアブドラ国王がイスラミックセンター・ジャパン建設のため土地を寄付、合わせてモスクを建設して、1980年代前半には国内のモスクは4ヶ所（東京3ヶ所、神戸1ヶ所）となったが、バブル経済に伴って世界各地から日本国内に仕事を求めてやってきたムスリムが永住していく過程で、各地に多くのモスクが建設されるようになった。

>これらのモスクの多くはコンビニエンスストア、工場、ビルなどを改装して設置されている。