Pada mulanya, kalangan pesantren mempunyai tekad untuk melawan kolonialisme dengan membentuk suatu organisasi pergerakan pada 1916, kala itu bernama Nahdlatul Wathan yang mempunyai arti “Kebangkitan Tanah Air”.
Selang dua tahun, pada 1918 didirikan kembali organisasi yang bertujuan untuk pendidikan sosial politik kaum dan keagamaan santri bernama Taswirul Afkar atau dikenal dengan Nahdlatul Fikri yang mempunyai arti “Kebangkitan Pemikiran”.
Kemudian, untuk memperbaiki perekonomian rakyat didirikan Nahdlatul Tujjar yang mempunyai arti “Pergerakan Kaum Saudagar”. Dengan begitu, Taswirul Afkar menjadi lembaga pendidikan yang berkembang, bahkan sampai memiliki cabang di beberapa kota.
Dengan demikian, kaum terpelajar menyadari keterbelakangan yang dialami oleh Indonesia baik mental maupun ekonomi akibat penjajahan atau kungkungan tradisi dan berniat memperjuangkan harga diri bangsa ini. Hal ini direalisasikan dalam jalan pendidikan dan organisasi.
Gerakan ini muncul pada 1908 dan dikenal dengan “Kebangkitan Nasional”. Akibatnya, banyak bermunculan organisasi pendidikan dan pembebasan.
Ketika Raja Ibnu Saud berencana menerapkan asas tunggal, yaitu mazhab wahabi di Mekah dan menghancurkan semua peninggalan sejarah Islam termasuk pra-Islam yang banyak didatangi karena dianggap bi’dah.
Hal tersebut disambut baik oleh kaum modernis Indonesia, baik Muhammadiyah yang berada di bawah pimpinan Ahmad Dahlan, maupun PSII yang berada di bawah pimpinan H.O.S. Tjokroaminoto. Namun, kalangan pesantren yang berpihak kepada keberagaman, menolak gagasan tersebut.
Karena tidak sejalan dengan gagasan pembatasan madzhab dan penghancuran warisan peradaban, maka kalangan pesantren dikeluarkan dari anggota Kongres Al Islam di Yogyakarta pada 1925. Dengan demikian, kalangan pesantren tidak dilibatkan dalam delegasi Mu’tamar ‘Alam Islami (Kongres Islam Internasional) di Mekah untuk disahkan.
Akibat dari hal tersebut, kalangan pesantren membuat delegasi sendiri yang dinamai dengan Komite Hejaz yang diketahui oleh K.H. Wahab Hasbullah.
Dengan desakan Komite Hejaz dan seruan dari penjuru umat Islam di dunia, maka Raja Ibnu Saud membatalkan pengesahan tersebut dan sekarang di Mekah bebas untuk melaksanakan ibadah sesuai dengan madzhab masing-masing.
Setelah itu, untuk mengantisipasi perkembangan zaman lalu dibentuklah organisasi yang lebih sistematis. Organisasi yang dibentuk awalnya dimusyawarahkan dengan para kiai, kemudian lahirlah Nahdlatul Ulama (NU) yang mempunyai arti “Kebangkitan Ulama”. NU lahir pada 16 Rajab 1344 H atau 31 Januari 1926 di bawah kepemimpinan K.H. Hasyim Asy’ari sebagai Rais Akbar.
K.H. Hasyim Asy’ari pun merumuskan Kitab Qanun Asasi (prinsip dasar) dan Kitab I’tiqad Ahlussunnah Wal Jamaah yang kemudian diejawantahkan dalam Khittah NU dan menjadi dasar dan rujukan pemikiran dan tindakan keagamaan juga politik warga NU.