Hagia Sophia dibangun dalam waktu yang sangat singkat yaitu sekitar enam tahun, selesai pada tahun 537 M. Nama-nama arsitek untuk bangunan ini adalah Anthemius dari Tralles dan Isidorus dari Miletus yang sangat terkenal.
Pada tahun 404 Hagia Sophia sempat rusak oleh kebakaran yang meledak selama kerusuhan setelah pengasingan kedua St. John Chrysostom, yang saat itu menjadi patriarki Konstantinopel. Setelah itu, Hagia Sophia dibangun kembali dan diperbesar oleh kaisar Romawi Constantine I. Bangunan yang sempat rusak ini dibangun kembali pada tahun 415 oleh Theodosius II.
Namun, satu abad kemudian, Hagia Sophia dibakar lagi dalam pemberontakan Nika pada tahun 532, terhadap Kaisar Justinian I.Struktur yang sekarang berdiri pada dasarnya adalah bangunan abad ke-6, meskipun gempa bumi menyebabkan keruntuhan sebagian kubah pada tahun 558 setelah dipulihkan tahun 562.
Setelah penaklukan Konstantinopel oleh Turki pada tahun 1453, Mehmed II mengubahnya menjadi masjid, dengan penambahan menara kayu (di bagian luar, menara yang digunakan untuk azan), lampu gantung besar, mihrab (ceruk yang menunjukkan arah Mekah), dan mimbar.
Kemudian putranya Bayezid II membangun menara merah yang berdiri di sudut tenggara bangunan. Karena menara kayu asli tidak dapat bertahan lama. Bayezid II mendirikan menara putih yang terletak di sisi timur laut masjid. Dua menara identik di sisi barat kemungkinan ditugaskan oleh Selim II atau Murad III dan dibangun oleh arsitek Ottoman terkenal Sinan pada tahun 1500-an.