Masjid yang dibangun pada 1738 ini merupakan salah satu masjid bersejarah yang ukurannya lumayan besar. Saat pertama didirikan, luasnya tak kurang dari 1.080 meter persegi. Mampu menampung sekitar 1.200 jemaah. Masjid Agung Palembang ini juga dikenal dengan sebutan Masjid Sultan karena didirikan oleh Sultan Mahmud Badaruddin I Jayo Wikramo.

Masjid yang semula tanpa menara ini, layaknya masjid-masjid jaman dulu, pada masa pemerintahan Sultan Ahmad