Ia pernah ditolak saat masuk ke sekolah lalu pindah ke Madrasah Mu'allimin Muhammadiyah di Yogyakarta untuk menimba ilmu. Setelah lulus ia pergi ke Lombok untuk jadi guru selama setahun.
Setelah selesai mengabdi di Lombok, ia kuliah di Fakultas Hukum Universitas Cokroaminoto Surakarta.
Hubungan antara Sumatera dan Jawa terputus karena PRRI melakukan pemberontakan membuat saudaranya di Sumatera tidak bisa memberi bantuan biaya kuliahnya Buya.
Akhirnya Buya berhenti kuliah, demi membiayai kehidupannya ia menjadi guru di desa Kecamatan Baturetno, Kabupaten Wonogiri, Jawa Tengah.
Akhirnya ia pun bisa kembali kuliah di Universitas Cokroaminoto dengan jurusan yang berbeda dan bisa dapat gelar Sarjana di tahun 1964.
Lalu di tahun 1968, Buya lulus dari IKIP Yogyakarta di jurusan yang berbeda.
Tidak hanya kuliah di dalam negeri, Buya juga berhasil meraih master sejarah di Ohio State University, Amerika Serikat.
Buya Syafii juga menyabet gelar doktor Universitas Chicago Amerika Serikat. ***