Bung Karno mengatakan Haji Agus Salim adalah seorang ulama dan intelektual. Agus terlahir dengan nama Mashudul Haq, yang bermakna "pembela kebenaran", pada 8 Oktober 1884 di Koto Gadang, Bukittinggi, Minangkabau.

Ayahnya, Angku Sutan Mohammad Salim, adalah kepala jaksa di Pengadilan Tinggi Riau. Ibunya bernama Siti Zainab. Agus cukup menonjol di sekolah. Dia menempuh pendidikan dasar di Europeesche Lagere School (ELS), sekolah khusus anak-anak Ero