Selepas mengkhatamkan Al-Quran dari gurunya, Daeng ri Tasammang, Syekh Yusuf kemudian menimba ilmu sharaf, nahwu, mantik, dan beragam kitab dari Syed Ba' Alwy bin Abdullah al-Allamah Thahir di daerah Bontoala. Dalam waktu singkat, Yusuf menguasai kitab-kitab fikih dan tauhid.

Saat berusia 15 tahun, Yusuf disarankan agar menimba ilmu di negeri lain. Pertama-tama, Yusuf berguru kepada Syekh Jalaludin al-Aidit di Cikoang, yang mendirikan tempat peng