Dengan suasana yang sangat kritis dikarenakan Belanda semakin memperkuatkan diri dengan terus-menerus mendatangkan bala bantuan dengan persenjataan modern disertai dengan peristiwa Agresi Militer Belanda I pada tanggal 21 Juli 1947 Dengan situasi yang demikian para mahasiswa yang berideologi murni tetap bersatu menghadapi Belanda.
Mencegak setidak-tidaknya mengurangi efek-efek dari polarisasi politik yang sangat melemahkan potensi Indonesia menghadapi Belanda.
Karenanya mereka menolah keras akan sikap dominasi Partai Sosialis terhadap mahasiswa yang dinilai akan mengakibatkan dunia mahasiswa terlibat dalam polarisasi politik.
Berbagai hal ini yang mendorong beberapa orang mahasiswa untuk mendirikan organisasi baru. Meskipun sebenarnya jauh sebelum adanya keinginan untuk mendirikan organisasi baru sudah ada cita-cita akan itu, tetapi selalu ditunda dan dianggap belum tepat.
Namun melihat dari berbagai kondisi yang ada dirasa cita-cita yang sudah lama diharapkan itu perlu diwujudkan karena bila membiarkan Persyerikatan Mahasiswa Yogyakarta lebih lama didominasi oleh Partai Sosialis adalah hal yang tidak tepat.
Penolakan sikap dominasi Partai Sosialis terhadap Persyerikatan Mahasiswa Yogyakarta tidak hanya datang dari kalangan mahasiswa Islam, melainkan juga mahasiswa kristen, mahasiswa katolik, serta berbagai mahasiswa yang masih menjunjung teguh ideologi keagamaan.
HMI diprakarsai oleh Lafran Pane, seorang mahasiswa tingkat I (semester I) Fakultas Hukum Sekolah Tinggi Islam (sekarang Fakultas Hukum Universitas Islam Indonesia (FH-UII).
Ia mengadakan pembicaraan dengan teman-temannya mengenai gagasan membentuk organisasi mahasiswa bernapaskan Islam dan setelah mendapatkan cukup dukungan, pada bulan November 1946, ia mengundang para mahasiswa Islam yang berada di Yogyakarta baik di Sekolah Tinggi Islam, Balai Perguruan Tinggi Gajah Mada dan Sekolah Teknik Tinggi, untuk menghadiri rapat, guna membicarakan maksud tersebut.
Rapat-rapat ini dihadiri kurang lebih 30 orang mahasiswa yang di antaranya adalah anggota Perserikatan Mahasiswa Yogyakarta dan Gerakan Pemuda Islam Indonesia. Rapat-rapat yang digelar tidak menghasilkan kesepakatan.
Namun Lafran Pane mengambil jalan keluar dengan mengadakan rapat tanpa undangan, yaitu dengan mengadakan pertemuan mendadak yang mempergunakan jam kuliah Tafsir oleh Husein Yahya.




