Pada awalnya, Kyai Tahir Rohily yang lama bermukim di Makkah, mendirikan beberapa kamar untuk menampung para pelajar sekolah. Kamar-kamar penampungan yang kemudian ditingkatkan menjadi asrama putra-putri itu terletak bersebelahan dengan masjid tempat kyai Tahir menyelenggarakan majelis taklim.

Kyai Tahir bersama Drs. HM Syatiri Ahmad menantunya adn Dra. Hj. Suryani Tahir puterinya, berusaha agar para pelajar yang menempati asrama, memperoleh pendidikan agama. Maka kemudian diselenggarakan pengajian kitab secara sorogan. Dalam perkembangan selanjutnya, Kyai Syatiri mencoba mengembangkan sistrem madrasah yang kemudian menjelma menjadi Madrasah Tsanawiyah, Aliyah, dan Universitas Attahiriyyah. Sesudah itu menyusul Madrasah Ibtidaiyah. Majelis taklim yang sudah ada tetap dipertahankan dan dikembangkan hingga menjadi salah satu majelis taklim terkenal di Jakarta. Melalui majelis taklim ini, pengajian kitab terbuka bukan hanya bagi pelajar, tetapi juga untuk umum. 

Untuk tahun ajaran 1984, jumlah santri mukim di pesantren secara resmi mencapai 168 orang, terdiri dari 15 putera dan 93 putri. Mereka ini umumnya berasal dari daerah sekitar Jakarta, atau kabupaten lain di Jawa Barat, dan merupakan sebagian dari siswa madrasah atau mahasiswa universitas yang ada di lingkungan pesantren. Untuk menampung santri mukim, pesantren menyediakan 12 buah kamar pemondokan. Sedang untuk kegiatan belajar, tersedia 6 buah lokal. Sarana lain yang tersedia bagi santri adalah perpustakaan, lapangan olah raga dan pemancar radio. Karena lahan cukup sempit, yaitu 0,25 ha, pesantren ini mengembangkan sarana fisiknya di tempat lan, dan pengelolanya pun terpisah.

Sistem pengajaran di pesantren ini merupakan gabungan antara sistem sekolah / klasikal dengan sistem pengajian tradisional. Meskipun demikian, dalam sistem sekolah yang mengikuti kurikulum negeri, pelajaran kitab tetap diberikan. Antara lain, Fathul Qarib, Minhajul Qawim, Jauhar Maknun, Alfiyah, Tafsir Jalalain, Muchtarul Ahadits, dan Tangihul Qaul. Kitab-kitab itu pula yang kemudian diberikan dalam pengajian yang diadakan pagi dan sore.

Berbagai kegiatan di luar jam belajar banyak diikuti para santri. Antara lain latihan keputrian dan kesenian khusus putri, menyelenggarakan perlombaan cerdas cermat untuk umum, lomba memasak, busana muslim, dan MTQ. Team kasidah pesantren ini pernah meraih juara dalam lomba kasidah se-DKI Jakarta. Beberapa orang santri pernah pula dikirim mewakili pesantren dalam berbagai latihan ketrampilan. Antara lain latihan manajemen, perpustakaan, kependudukan, dan penataran juru dakwah. [Perhimpunan Pengembangan Pesantren dan Masyarakat]