Seorang ulama dari Palembang terkesan dengan kecerdasan Ismi saat mengaplikasikan ilmu falaq pada upacara kelulusannya kala itu dan ingin membawanya ke Palembang tetapi orangtuanya melarang. Cita-citanya untuk melanjutkan pendidikan di Termas juga batal karena keuangan keluarga sangat terbatas. Akhirnya Ismi membantu mengajar di Madrasah Mambaul Ulum Cabang Boyolali yang dipimpin oleh R.Ng. Moh. Sholeh Tjokrosuroto. Dua tahun kemudian Ismi diambil menantu oleh Pimpinan Madrasah, dan namanya berubah menjadi Ismi Dijomihardjo.
Tahun 1945 Ismi diangkat oleh Keraton Surakarta menjadi Naib di Desa Terong, Prambanan. Tahun 1947 pindah ke Kabupaten Sragen sebagai Naib di Sambirejo dan Gondang. Tahun 1951 masuk Kantor Jawatan Agama Kabupaten Sragen sebagai PNS. Sejak itu Ismi bukan lagi menjadi abdi dalem Keraton Surakarta melainkan menjadi PNS di bawah Pemerintahan Republik Indonesia.
Setelah bermukim di Sragen, aktifitasnya meningkat dengan mendirikan NU pada tahun 1953 dan ayah mertuanya, R.Ng. Moh.Sholeh Tjokrosuroto adalah pendiri NU di Boyolali dan menjadi salah satu dari tiga Ketua Panitia Muktaar NU tahun 1935 di Solo. Karier Ismi sebagai PNS juga terus meningkat sampai jenjang Kepala Kantor Djawatan Agama Kabupaten Sragen pada 1963 dan pensiun tahun 1973.
Kiprahnya di NU dikenal di kalangan masyarakat di zamannya. Ia berkeliling Kabupaten Sragen untuk mengajarkan Islam Ahlusunnah Wal Jamaan dan menggerakkan anak-anak muda untuk mendirikan GP Ansor, Fatayat, IPNU/IPPNU. Dan istrinya sendiri Siti Khusnah dibimbingya mendirikan Muslimat NU dan menjadi Ketuanya yang pertama.
Sejak muda Ismi aktif di kegiatan kepanduan Hisbullah dan ikut berperang melawan penjajah Belanda. Oleh karenanya ia pernah mendapat penghargaan sebagai pejuang kemerdekaan RI dari Dephankam 1981 dan Medali Perjuangan Angkatan 1945 dari Dewan Harian Nasional Angkatan 1945 tahun 1990.