Masjid Raya Al Mahsun dibangun pada tahun 1906 dan selesai pada tahun 1909. Pada awal pendiriannya, masjid ini merupakan bagian dari kompleks Istana Maimun. Gaya arsitekturnya memadukan unsur Timur Tengah, India, dan Spanyol. Masjid ini berbentuk segi delapan dan memiliki sayap di bagian selatan, timur, utara, dan barat.
