Islam masuk ke negeri Cina melalui jalan damai yang dibawa oleh kaum pendatang. Di negeri Tirai Bambu itu, Islam pertama kali diperkenalkan oleh Saad Ibnu Abi Waqqas pada 651 M. Ketika itu ia dikirim oleh khalifah ketiga, Usman bin Affan, untuk menyiarkan Islam ke Cina. Kaisar Gaozong dari Dinasti Tang, yang menerima Abi Waqqas, memerintahkan pembangunan masjid di Kanton.

Saat itu, kaum muslim asal Arab dan Persia sudah mulai menetap di Kanton. Na