Ia mulai terlibat gerakan pembaruan setelah mewakili gurunya untuk hadir dalam rapat besar ulama Minangkabau tahun 1919 di Padang Panjang, Sumatra barat. Abad 20 ditandai dengan kemajuan di berbagai bidang, terutama ilmu pengetahuan dan teknologi. Negara-negara yang bisa menguasai kedua hal tersebut, akan bisa mewujudkan kesejahteraan bagi masyarakatnya. Dan tentu, bangsa Indonesia yang mayoritas Muslim mau tak mau harus mengikuti perkembangan itu.Selama ini ada anggapan pendidikan Islam hanya terpusat untuk mempelajari ilmu-ilmu agama. Tapi beberapa kalangan telah melakukan penyesuaian dengan memasukkan ilmu umum dalam kurikulum pendidikan Islam. Salah satu tokoh pembaru itu adalah Prof Mahmud Yunus. Disebutkan dalam buku Tokoh dan Pemimpin Agama, Biografi Sosial-Intelektual, Mahmud Yunus lahir di desa Sungayang, Batusangkar, Sumatera Barat, hari Sabtu 10 Pebruari 1899. Keluarganya adalah tokoh agama yang cukup terkemuka. Ayahnya bernama Yunus bin Incek menjadi pengajar surau yang dikelola sendiri. Ibundanya bernama Hafsah binti Imam Samiun merupakan anak Engku Gadang M Tahir bin Ali, pendiri serta pengasuh surau di wilayah itu.Sejak kecil, Mahmud Yunus dididik dalam lingkungan agama. Dia tidak pernah masuk ke sekolah umum. Ketika menginjak usia tujuh tahun (1906), Mahmud mulai belajar Alquran serta ibadah lainnya. Gurunya adalah kakeknya sendiri. Mahmud sempat selama tiga tahun menimba ilmu di sekolah desa, tahun 1908. Namun saat duduk di kelas empat, dia merasa tidak betah lantaran seringnya pelajaran kelas sebelumnya diulangi. Dia pun memutuskan pindah ke madrasah yang berada di Surau Tanjung Pauh bernama Madras School, asuhan HM Thaib Umar, seorang tokoh pembaru Islam di Minangkabau.Sejarah mencatat HM Umar Thaib amat berpengaruh terhadap pembentukan keilmuan Mahmud Yunus. Melalui karya-karya gurunya itu, Mahmud dapat menyerap semangat pembaruan yang dibawa. Misalnya dalam karya Al-Munir, ditekankan penguasaan pengetahuan umum serta bahasa Eropa. Karenanya para santri di surau/pesantren HM Umar Thaib diwajibkan mempelajari ilmu agama, bahasa Eropa maupun ilmu pengetahuan umum. Maksudnya agar para santri dapat juga memanfaatkan ilmu-ilmu tersebut bagi peningkatan kesejahteraan umat dan perkembangan Islam.Saat Mahmud belajar di Madras School antara tahun 1917-1923, di Minangkabau tengah tumbuh gerakan pembaruan Islam yang dibawa oleh para alumni Timur Tengah. Umumnya pembaruan Islam terwujud dalam dua bentuk, purifikasi dan modernisasi. Nah, yang dilakukan oleh para alumni adalah gerakan purifikasi untuk mengembalikan Islam ke zaman awal Islam dan menyingkirkan segala tambahan yang datang dari zaman setelahnya.Mahmud Yunus mulai terlibat di gerakan pembaruan saat berlangsung rapat besar ulama Minangkabau tahun 1919 di Padang Panjang. Dia diminta untuk mewakili gurunya. Pertemuan itu secara langsung maupun tidak langsung mempengaruhi pola pemikiran pembaruan Mahmud, terutama berkat pandangan-pandangan yang dikemukakan sejumlah tokoh pembaru seperti Abdullah Ahmad serta Abdul Karim Amrullah.Bersama staf pengajar lainnya yang bergiat di gerakan pembaruan, tahun 1920 Mahmud membentuk perkumpulan pelajar Islam di Sungayang bernama Sumatera Thawalib. Salah satu kegiatan kelompok ini adalah menerbitkan majalah al-Basyir dengan Mahmud Yunus menjadi pemimpin redaksinya. Interaksi yang kian intens dengan gerakan pembaru, mendorongnya untuk menimba pengetahuan lebih jauh di Mesir. Tidak mudah untuk mewujudkan hasratnya itu, berbagai kendala dihadapi. Namun pada akhirnya kegigihan Mahmud Yunus dapat mengantarkannya ke al-Azhar, Kairo, tahun 1924.Di sana dia mempelajari ilmu ushul fiqh, ilmu tafsir, fikih Hanafi dan sebagainya. Mahmud Yunus seorang murid yang cerdas. Hanya dalam tempo setahun, dia berhasil mendapatkan Syahadah Alimiyah dari al-Azhar dan menjadi orang Indonesia kedua yang memperoleh predikat itu.Tetapi dia merasa belum cukup dengan apa yang telah diperoleh lantaran peningkatan pengetahuan umumnya belum terpenuhi. Dia pun berkeinginan melanjutkan studi ke madrasah Dar al-Ulum yang memang mengajarkan pengetahuan umum. Mahmud Yunus kemudian meneguhkan diri untuk mengikuti seluruh persyaratan yang diminta dan terbukti mampu memenuhi. Dia dimasukkan sebagai mahasiswa di kelas bagian malam (qiyam lail). Semua mahasiswanya berkebangsaan Mesir, kecuali Mahmud Yunus. Tercatat dia menjadi orang Indonesia pertama yang masuk Dar al-Ulum.Kuliah Mahmud Yunus berakhir dengan lancar. Tahun 1929, dia mendapat ijazah diploma guru dengan spesialisasi bidang ilmu kependidikan. Setelah itu, dia kembali ke kampung halamannya di Sungayang Batusangkar. Gerakan pembaruan di Minangkabau saat itu makin berkembang. Ini amat menggembirakan Mahmud Yunus yang lantas mendirikan dua lembaga pendidikan Islam, tahun 1931, yakni al-Jami'ah Islamiyah di Sungayang dan Normal Islam di Padang. Di kedua lembaga inilah dia menerapkan pengetahun dan pengalaman yang didapatnya di Dar al-Ulum, Kairo.Karena kekurangan tenaga pengajar, al-Jami'ah Islamiyah terpaksa ditutup tahun 1933. Sedangkan Normal Islam hanya menerima tamatan madrasah 7 tahun dan dimaksudkan untuk mendidik calon guru. Ilmu yang diajarkan berupa ilmu agama, bahasa Arab, pengetahuan umum, ilmu mengajar, ilmu jiwa dan ilmu kesehatan.Dua penekanan dalam pembaruan Mahmud Yunus di lembaga pendidikannya yakni pengenalan pengetahuan umum dan pembaruan pengajaran bahasa Arab. Pengajaran pengetahuan umum di sekolahnya sebenarnya tidaklah baru. Tahun 1909 Abdullah Ahmad sudah mengajarkan berhitung, bahasa Eropa di Adabiyah School. Sementara Mahmud menambahkan beberapa pelajaran umum semisal ilmu alam, hitung dagang, dan tata buku.Pada bidang pengajaran bahasa Arab, pembaruan Mahmud Yunus tak hanya menekankan penguasaan bahasa Arab, namun juga menunjukkan bagaimana secara didaktis-metodis modern para siswa menguasai bahasa tersebut dengan cepat dan mudah. Dia memimpin Normal Islam selama 11 tahun, mulai 1931-1938 dan 1942 dan 1946. Pada tahun 30-an, dia juga aktif di organisasi Islam antara lain menjadi salah satu anggota Minangkabau Raad. Lantas tahun 1943 dipilih menjadi Penasehat Residen mewakili Majelis Islam Tinggi. Demikian pula di kementerian agama yakni dengan menjabat selaku Kepala Penghubung Pendidikan Agama.Awal tahun 1970 kesehatan Mahmud Yunus menurun dan bolak balik masuk rumah sakit. Tahun 1982, dia memperoleh gelar doctor honoris causa di bidang ilmu tarbiyah dari IAIN Jakarta atas karya-karyanya dan jasanya dalam pengembangan pendidikan Islam di Indonesia. Sepanjang hidupnya, Mahmud menulis tak kurang dari 43 buku. Pada tahun 1982, Mahmud Yunus meninggal dunia.
