Dalam kesempatan itu, KH Mas Mansur menyatakan bergabung dengan Muhammadiyah dan ditunjuk sebagai Ketua Muhammadiyah Cabang Surabaya pada 17 April 1921. KH Ahmad Dahlan menggambarkan KH Mas Mansur sebagai "sapu kawat Jawa Timur," yang melambangkan kemampuan KH Mas Mansur menyelesaikan berbagai persoalan, dari a sampai z.
Dari kepemimpinan di Surabaya, KH Mas Mansur terus naik ke posisi strategis di Muhammadiyah, dari PWM Jatim hingga PP Muhammadiyah, termasuk mengusulkan pembentukan Majelis Tarjih pada 1927 dan lebih mengimplementasikan “gaya” KH Ahmad Dahlan..
Di tingkat pusat, KH Mas Mansur berperan dalam mengembangkan metode dakwah yang lebih modern dan terorganisasi.
KH Mas Mansur tidak hanya dikenal sebagai ulama, tetapi juga sebagai aktivis pergerakan nasional. Ketika belajar di Yogyakarta, ia juga mengajar dan tinggal di kompleks rumah guru Madrasah Mu’allimin Muhammadiyah, yang bersebelahan dengan rumah Bung Karno. KH Mas Mansur sempat menjadi saksi sekaligus penghulu dalam pernikahan Bung Karno dengan Fatmawati.
Di Surabaya, ia aktif berdiskusi dengan tokoh pergerakan seperti HOS Tjokroaminoto. Pada 1937-1943, KH Mas Mansur bersama Ki Bagus Hadikusumo menjadi anggota PPKI dan pada tahun 1943 di BPUPKI, yang merupakan langkah awal dalam pembentukan negara Indonesia.
“KH Mas Mansur memang merupakan sosok yang lengkap, beliau merupakan agamawan, pendidik, politik/orator, dan jurnalis/redaktur," kata Dr. H. Syaifullah MAg, penulis buku "KH Mas Mansur Sapu Kawat Jawa Timur".
KH Mas Mansur dikenal sebagai "4 serangkai “ dalam MIAI (Majelis Islam Ala Indonesia) yakni Wahono/ketua, KH Wahab Hasbullah, KH Ahmad Dahlan Achyat, dan KH Mas Mansur,” dan PUTERA (Pusat Tenaga Rakyat), bersama tokoh-tokoh nasional seperti Bung Karno, Bung Hatta, dan Ki Hajar Dewantara.
KH Mas Mansur wafat pada 25 April 1946 dalam usia yang relatif muda akibat perlakuan buruk dari pihak NICA. KH Mas Mansur dipenjara dua kali karena dianggap berkolaborasi dengan Jepang, meskipun kontribusinya terhadap perjuangan kemerdekaan tidak diragukan.
Penyiksaan di penjara, termasuk suntikan zat kimia berbahaya, mengakibatkan kerusakan saraf yang pada akhirnya merenggut nyawanya. “Saat keponakannya membesuk di penjara pun diancam macam-macam, namun dimaklumi karena faktor syaraf itu,” kata Syaifullah.
Meskipun begitu, jasa beliau diakui oleh pemerintah dengan dianugerahkan gelar Pahlawan Nasional berdasarkan SK Presiden RI Nomor 162 Tahun 1964.
Warisan dan pemikiran KH Mas Mansur
Selain aktif dalam kegiatan agama, KH Mas Mansur, tokoh kelahiran Kampung sawahan (Jl Kalimas Udik) Surabaya itu juga aktif berorganisasi dan termasuk akrab dengan proklamator Indonesia Bung Karno.
KH Mas Mansur yang menempuh pendidikan di berbagai pesantren itu juga terlibat dalam pendirian organisasi seperti Syarikat Islam, Madrasah Nahdlatul Wathan serta Majelis Taswirul Afkar.