Pada dua abad setelah abad kedua hijriyah yaitu abad ketiga dan keempat muncul tiga kasta dari kalangan orang-orang yang menisbatkan diri kepada tasawuf.

Kasta pertama, Kasta ini mewakili arus yang kesohor dengan kejujuran dalam berzuhud sampai pada batas was-was, menjauhi dunia, menyimpang dalam perilaku dan ibadah dalam bentuk menyelisihi apa yang dipraktikkan oleh generasi pertama, Rasulullah saw dan para sahabat bahkan para ahli ibadah sebelumnya, walaupun demikian kebanyakan dari mereka tetap berpegang kepada akidah yang lurus dan mengklaim berpijak kepada sunnah dan manhaj salaf.

Di antara nama yang paling terkenal dalam kasta ini adalah al-Junaid Abu al-Qasim al-Kharraz wafat tahun 298 H, orang-orang sufi menjulukinya dengan Syaikh ath-Tha`ifah. Al-Junaid ini adalah sosok terpenting di mana orang-orang sufi memegang perkataan-perkataan dan pendapat-pendapatnya, khususnya dalam tauhid, ma’rifah dan mahabbah. Al-Junaid ini terpengaruh oleh ustadznya al-Haris al-Muhasibi, orang pertama yang mencampur ilmu kalam dengan tasawuf. Yang berbeda dari al-Junaid adalah bahwa dia tidak menyetujui perkataan-perkataan menyimpang dari sebagian orang-orang sufi, walaupun terkadang dia sendiri mengucapkannya, dia juga tidak menetapkan fana` yang dikenal dikalangan mereka, dia juga tidak menyetujui keyakinan sebagian orang-orang sufi yang menggugurkan beban taklif syariat.

Di antara ciri khas lain dari kasta ini, mulai memisahkan diri dari para ulama dan kaum muslimin dengan lahirnya terminologi-terminologi yang menunjukkan hal itu yang pada akhirnya membuka lahirnya tarikat-tarikat setelah itu, seperti ucapan, “Ilmu kami, madzhab kami, tarikat kami.” Mereka meletakkan syarat bagi siapa pun yang ingin mengikuti jalan mereka agar membebaskan diri dari hartanya, menyedikitkan makan dan tidak boleh menikah selama dia demikian.

Di antara ciri khasnya yang lain, perhatian yang besar terhadap nasihat dan kisah disertai ilmu dan fikih yang minim, pada saat yang sama kebanyakan dari mereka mulai meneladani perilaku-perilaku rahib dan ahli ibadah dari kalangan ahli kitab, perkara yang membuat mereka semakin jauh dari jalan generasi pertama para sahabat Rasulullah saw dan para imam tabiin.

Hal ini menghasilkan dibangunnya rumah-rumah ibadah selain masjid sebagai tempat berkumpul unuk mendengar kasidah-kasidah zuhud atau kasidah-kasidah yang katanya memuji dan menyanjung Nabi saw. Muncul pula klaim-klaim kasyaf, perkara-perkara di luar kebiasaan dan perkataan-perkataan yang beraroma ahli kalam.

Pada fase ini lahir karya-karya di bidang ini seperti Qut al-Qulub, Hilyah al-Auliya` karya Abu Nuaim al-Ashbahani, kitab-kitab al-Harits al-Muhasibi dan kitab-kitab Abu Thalib al-Makki. Para ulama yang teguh di atas sunnah Rasulullah saw telah memperingatkan kaum muslimin agar berhati-hati dari kitab-kitab ini karena ia memuat hadits-hadits dhaif bahkan palsu termasuk israiliyatdan perkataan-perkataan ahli kitab. Imam Abu Zur’ah ditanya tentang kitab-kitab ini, sebelum dia menjawab seseorang berkata kepadanya, “Di dalamnya terdapat pelajaran.” Abu Zur’ah berkata, “Barangsiapa tidak mengambil pelajaran dari kitabullah maka dia tidak akan mengambil dari kitab-kitab ini.”

Di antara ciri khasnya yang lain adalah lahirnya terminologi dzauq(perasaan) dalam menyikapi atau melaksanakan ibadah yang semakin memperlebar jarak antara mereka dengan kaum muslimin pada umumnya dan karenanya mereka tidak mampu menjaga jalan mereka dari pengaruh dan resapan akidah-akidah dan fisafat-filasafat bukan Islam, hal ini menjadi salah satu pemicu punahnya kasta ini dan lahirnya kasta kedua yang lebih menyimpang.

Kasta kedua, Kasta ini mencampuradukkan antara zuhud dengan ungkapan-ungkapan kebatinan, zuhud digeser dari praktik dan perilaku riil kepada lahan perenungan murni dan perkataan teoritis, dari sini muncul terminologi-terminologi seperti wihdah, fana`, ittihad, hulul, kasyaf, baqa`, murid, ‘arif, ahwal, maqamat dan sepertinya.

Muncul pula pembedaan antara syariat dan hakikat, mereka menamakan diri mereka arbab al-haqaiq, ahli al-batthin, sementara para fuqaha` dan kaum muslimin lainnya mereka juluki dengan ahli zhahir wa rusum, perkara yang memicu jarak di antara mereka dengan kaum muslimin pada umumnya, padahal istilah-istilah tersebut tidak pernah ada di kalangan abad terbaik, para sahabat, tabiin bahkan di kalangan para pendahulu orang-orang sufi sekalipun, maka tidak keliru jika kasta ini merupakan permulaan yang kongkrit bagi arus sufi dan tasawuf sampai sekarang.

Tokoh-tokoh kasta ini akan dipaparkan dalam makalah berikut.

Dari al-Mausu’ah al-Muyassarah, isyraf Dr. Mani’ al-Juhani.