Sebelum masjid ini dibangun, Korean Muslim Federation (KMF) sering mengadakan shalat berjamaah di daerah ini. Saat itu jumlah penduduk muslim di Korea sekitar 3.000 jiwa.
Presiden Korea saat itu, Park Chung-hee menawarkan KMF sebidang lahan untuk membangun masjid, agar Republik Korea yang umurnya masih muda mendapatkan pertemanan yang baik dengan negara-negara bagian timur tengah.
Kemudian, Arab Saudi dan negara timur tengah lainnya memberikan dana pembangunan masjid kepada pemerintah Korea.
Setelah dibangunnya Seoul Central Mosque, sejumlah masjid juga dibangun di sejumlah wilayah di Korea lainnya. Paling banyak masjid berada di wilayah Gyeonggi dan Incheon. Tercatat ada 7 masjid di wilayah tersebut. Sementara di Seoul, tidak berdiri masjid lain selain Seoul Central Mosque.