Pondok Pesantren Al-Fatah ini didirikan melalui dua periode :
1. Periode Perintis
2. Periode Pembangunan.
1. PERIODE PERINTIS
Pada saat periode ini, didirikanlah sebuah masjid yang diberi nama Al-Fatah, tepatnya pada tanggal 1 mei 1939. sebelumnya sudah ada bangunan yang berupa langgar yang didirikan pada tahun 1930. Pada tahun1953, KH. Shidiq membongkar rumahnya sendiri (milik pribadi) sebagai modal utama untuk membangun pondok pesantren, sehingga terjadilah pondok yang terdiri dari 12 lokal/kamar yang hanya cukup menampung 50 orang santri. Pelayanan pendidikan terhadap santri-santri praktis tidak mencukupi jika di tangani oleh Bapak Kyai sendiri, maka Bapak Kyai memerlukan bantuan santri seniornya antara lain: H.Mahmud, H. Abu Bakar, Junaidi, dll.
Kyai Haji Shidiq mencita-citakan salah seorang putra sulungnya yang bernama Mahmud agar kelak menjadi Kyai, maka pada tahun 1949, Mahmud disuruh belejar mengaji di pondok pesantren Sobontoro, kemudian di Bacem Madiun, Termas Pacitan, yang terakhir di Tebu Ireng Jombang, kemudian disuruh pulang oleh ayahnya untuk membantu mengajar dan sekaligus dididik sebagai calon Kyai pengganti ayahnya. Pada tahun 1956 Kyai Shidiq Wafat dalam usia kurang lebih 62 Th dan perjuangannya diteruskan oleh putranya yaitu KH. Mahmud. Sepeniggalnya KH. Shidiq, KH. Mahmud semakin berat bertanggung jawab terhadap kehidupan masyarakat dibidang mental spiritual, kemudian KH. Mahmud segera merencanakan suatu program kerja jangka pendek dan jangka panjang.
Program jangka pendek diantaranya, membina santri-santri sebagai kader-kader utama yang sanggup bekerja dan beramal disamping menambah sistem pendidikan selain sorogan.
Kemudian dibentuklah Pengurus Pondok Pesantren diantaranya:
-Bpk.H.Abu Bakar sebagai Ketua.
-Bpk.Mukhtar sebagai skretaris.
-Bpk.Junaidi sebagai Bendahara dst.
Program jangka panjang diantaranya mendirikan Madrasah Ibtidaiyah, Madrasah Diniyah Miftahut Tholibin, Madrasah Wajib Belajar dan Madrasah-Madrasah lainnya yang telah dicita-citakan sejak tahun 1956.
2. PERIODE PEMBANGUNAN.
Dalam Periode Pembangunan ini usaha yang dilaksanakan antara lain;
A. Mendirikan Gedung Madrasah.
B. Menambah Gedung Pondok.
C. Membuka Madrasah Tsanawiyah.
D. Membuka PGA dan Penegrianya.
E. Perluasan Masjid Al-Fatah
F. Membangun Gedung Aula dan gedung tingkat dua.
G. Mendirikan Pondok Putri.
H. Al-Fatah mulai berbadan hukum.
I. Mendirikan SMA dan SMP AL-Fatah
J. Mendirikan MTS dan MA AL-Fatah.
K. Tahfidhul Qur’an.
L. Usaha Perluasan DA’WAH Islamiah, dan fikir Umat
A. Mendirikan Gedung Madrasah.
Atas dasar Kesepakatan bersama antara Pengurus yang tersusun, Pengasuh dan Wali Murid. Dengan biaya yang dipikul bersama/secara gotong royong, bahkan ada orang yang bersedia menyumbang satu lokal yang segalanya ditanggung sendiri sehingga tepat pada tahun 1961 terwujudlah gedung yang dimaksud berjumlah tiga belas lokal.
B. Menambah Gedung Pondok.
Karena lokal pondok yang sudah tidak mencukupi untuk menampung santri, hal ini mendorong pengurus untuk menambah gedung lagi, sehingga pada tahun 1967 berhasil menambah tiga lokal, dan terus bertambah hingga sekarang berjumlah 63 ( enam puluh tiga ) lokal.
C. Membuka Madrasah Tsanawiyah .
Pada tahun 1959 didirikanlah Madrasah Tsanawiyah yang dikepalai langsung oleh Bapak KH. Mahmud Kholid Umar dan wakilnya Bapak Achmad Shodik dan dibantu oleh beberapa orang pengasuh lainya .
D. Membuka PGA dan Penegriannya.
Untuk mencukupi kebutuhan Guru Agama baik swasta maupun negeri maka dibukalah PGA 4 th, pada th 1967 dengan Kepala sekolah Bapak Achmad Sidiq. Bedasarkan surat Menteri Agama RI 21 november 1967, Nomor 143/1967 berlaku sejak tahun ajran 1968, kemudian menjadilah PGAN 4 th, pada tahun 1969 ditingkatkan menjadi PGAN 6 tahun hal ini berdasarkan surat Kepusan menteri Agama tanggal 5 mei 1969 Nomor 35/1969, dengan mengakat secara defnitif sebagai Kepala Sekolah Drs.H. Mudzakir Adnan, hingga tahun 1982 dan sebagai penggantinya adalah Bapak R.A. Badawi, B.A. Namun pada tahun 1978, PGNA 6 tahun berubah menjadi MtsN dan MAN yang masing –masing dikepalai oleh Bapak Mohdiyat Sofwan, B.A ( MtsN ) dan RA. BAdawi ( MAN ), hal ini berdasarkan keputusan mentri agama nomor 17/1978 tanggal 16 Marett 1978.
E. Perluasan Masjid Al fatah
Masjid Al-Fatah pertama kali didirikan pada tahun 1939, dan diperluas pada tahun 1969 dengan ukuran 50 x 30 M2 degan biaya Rp 2500 000,00 ( dua juta lima ratus ribu rupiah )
F. Membangun Aula dan Gedung Tingkat Dua
Pada tahun 1970 dengan gedung yang ada untuk MI, MTs dan PGAN tidak mampu lagi menampung siswa maka dibangunlah gedung tingkat 2 yang terdiri dari 12 lokal dengan menelan biaya Rp 3.500.000,- (tiga juta lima ratus ribu rupiah) selesai membangun gedung tingkat kemudian pada tahun 1972 dibangunlah gedung Aula berukuran 80 x 40 M2 dengan biaya Rp 4.500.000,- ( empat juta lima ratus ribu rupiah )
G. Mendirikan Pondok Putri
Pada tahun 1974 didirikanlah pondok putri yang terdiri dari 12 lokal dan dan 1 ruangan yang menelan biaya 3.250.000,- (tiga jutadua ratus lima puluh rupiah), namun sampai sekarang sudah diadakan perluasan hingga mencapai 21 lokal yang diduduki oleh 200 Santri Putri.
H. Al-Fatah Mulai Berbadan Hukum
Sebelum Al-Fatah berdiri, sudah ada lembaga pendidikan yang diberi nama Mifttahul Tholibin yang artinya Kunci untuk Menutut Ilmu. Dalam perkembangan selanjutnya tercapailah Kemajuan-Kemajuan sehingga nama Miftahul Tholibin berpindah nama menjadi Al-Fatah yang artinya ‘Pembukaan’ karena semuanya serba permulaan untu mencetak Kader-Kader Muslim yang Teguh Bertaqwa dan Beramal.
Untuk menanamkan kepercayaan kepada masyarakat, maka pengurus mengupayakan agar Al-Fatah berbentuk Badan Hukum dengan nama Yayasan Pendidikan Islam Al-Fatah Temboro Karangrejo Magetan. Perpindahan nama tersebut terjadi diatas Notaris RN Sinulingga S.H. Madiun disaksikan /disahkan dengan Akte Notaris Nomor 12tanggal 17 setember 1969.
I. Mendirikan SMA dan SMP Al-Fatah.
Untuk melegkapi sistem pendidikan yang ada maka pada tahun 1978 didirikanlah SMA Al-Fatah dengan status Terdaftar pada Kanwil Depertemen Pendidikan dan Kebudayaan Provinsi Jawa Timur dengan NSS 304051007005. Karana sesuatu hal, maka sekolah tersebut hanya berjalan untuk ajaran 1978/1979 saja dengan siswa 40 anak. Kemudian 3 tahun sesudahnya yaitu tahun ajaran 1983/1984 Sekolah tersebut Dibangun Kembali dengan status dan NSS yang sama serta NDS.E.24074001 dan pada tahun ajaran 1988/1989 Sekolah tersebut bersetatus DIAKUI dengan nomor Keputusan 011/c/Keb/1989. Bersama dengan bangunya kembali SMA Al-Fatah juga didirikan SMP Al-Fatah yan bersetatus TERDAFTAR hingga pada tahun Ajaran 1987/1988 bersetatus DIAKUI.
J. Mendirikan MA dan MTs Al-Fatah.
Untuk mempermudah pengelolaan Pendidikan yang berada dibawah naungan Al-Fatah dan adanya Proyek MAN Temboro di Purwosari Magetan, dan proyek MTsN Temboro di Baluk Karangrejo Magetan, maka didirikanlah MA Al-Fatah pada tahun 1989 dengan jumlah murid 40 orang dan 18 guru. Kemudian pada tahun 1988 didirikan pula MTs Al-fatah dengan modal murid 50 orang dan 14 guru.
Adapun mengenai perguruan tinggi sebenarnya telah didirikan FAKULTAS TARBIYAH pada tahun 1975 dengan status TERDAFTAR pada Kopertis Jawa Timur namun usia fakultas tersebut tidak dapat lama sehingga hanya sekitar tiga tahun.
K. Tahfidzul Qur’an
Disamping pengkajian kitab-kitab kuning di Pondok Pesantren Al-Fatah juga diadakan pendidikan Tahfidzul Qur’an yang dimulai pada tahun 1990. kegiatan ini di pondok putra pada mulanya dikoordinir atau diasuh oleh santri Al-Fatah sendiri yang bernama Khumaidillah dari Demak Purwodadi, tapi karena dia tidak lama di pondok maka diteruskan oleh santri yang bernama Faizin dari Demak. Sampai sekarang Al -Fatah telah mencetak ratusan santri hafidz Al-Qur’an. Adapun di Pondok Putri diasuh langsung oleh Ibu Nyai K.H.Uzairon Thoifur Abdillah.
L. Usaha Perluasan Da’wah Islamiyah dan Fikir Umat .
Setelah adanya Da’wah para wali yang datang dari berbagai penjuru dunia, hiduplah Agama di negeri ini maka berdirilah Masjid-Masjid Pesantren –Pesantren dan lain –lain . dengan ini dapat kita simpulkan bahwa sumber amalan Agama adalah Da’wah. Wajarlah ketika Umat ini sudah tidak ada Kesungguhan dalam da’wah maka merosotlah semua amalan Agama bagaikan persawahan yang sumber airnya mengecil, maka segera tampak akibatnya dalam semua Kawasan sawah itu.
Para Ulama’ mangatakan bahwa “ Lemahnya Da’wah disebabkan Lemahnya Iman dan Lemahnya Fikir Umat”. Menyadari hal ini dan dengan belajar dari sejarah para Nabi, Shohabat dan Leluhur –Leluhur kita maka kita mengadakan majlis fikir umat setiap malam ahad diikuti oleh para Santri Alumni dan Masyarakat Umum. Setelah itu diadakan himbauan kepada yang hadir untuk menyempatkan waktu 3 hari, satu minggu atau sedapatnya untuk mengadakan Program –Program yang tujuannya antara lain :
1. Melatih diri mengamalkan sunah-sunah Nabi saw selama 24 jam (Pegangan Pokok Bidayatul Hidayah).
2. Mengadakan Kunjungan ke Masjid –Masjid supaya setiap Masjid ada Amalan Ibadah, Ta’lim Wa Ta’alum. Da’wah, Pelayanan Masyarakat
3. Usaha menghidupkan sunah ziaroh kepada Ulama’ .
4. Menghidupkan sunah Silaturrohmi kepada Umat Islam secara menyeluruh terutama yang dirasakan rawan dalam bidang Agama, sehingga timbul kasih sayang, dengan kasih sayang akan mudah menjalankan Agama .
5. Membantu pemberian dalam mewujudkan pembangunan manusia seutuhnya. (Baldatun Thaiyyibatun Warobbun Ghofuur).
Alhamdulillah berkat do’a dan dukungan segala pihak usaha ini mulai menampakan hasil yang positif, banyak masjid yang mati hidup kembali, Banyak saudara kita yang belum sholat bisa menikmati sholat berjama’ah dan lain-lain.