Awal Mula Penyimpangan
Penyimpangan apa pun selalu dimulai dalam skala kecil, bersama hari-hari ia membesar, pada abad kedua hijriyah di Bashrah dan Kufah pengertian zuhud berkembang di tangan para ahli zuhud besar seperti Ibrahim bin Adham, Malik bin Dinar, Bisyr al-Hafi, Rabi’ah al-Adawiyah dan lain-lain menjadi suatu pengertian yang baru yang tidak tercantum dalam kamus para ahli zuhud sebelumnya, pada masa itu zuhud identik dengan menyiksa diri dengan tidak makan, mengharamkan daging, berkelana di padang pasir dan meninggalkan pernikahan. Malik bin Dinar berkata, “Seseorang tidak mencapai derajat shiddiqin sebelum dia meninggalkan istrinya seolah-olah dia janda dan bermalam di tempat kotoran anjing.” Semua itu tanpa sandaran dari al-Qur`an dan sunnah serta keteladanan dari para sahabat dan tabiin.

Di Kufah Mu’dhid bin Yazid al-Ajali dan rekan-rekannya mulai melatih diri mereka menjauhi tidur dan shalat secara terus menerus, sehingga jalan mereka diikuti oleh sekelompok ahli zuhud kota Kufah, maka mereka mulai keluar ke tempat-tempat sepi dan gunung-gunung untuk beribadah, bahkan sebagian dari mereka mendirikan semacam tempat ibadah khusus di pengasingan yang jauh dari masyarakat dan hal itu sebelumnya pernah diingkari oleh Ibnu Mas’ud.

Muncul perkataan-perkataan mungkar dari sebagian mereka dalam kecintaan ilahi untuk mengungkapkan cinta di antara hamba dengan Rabbnya, dari sini lalu muncul pemahaman-pemahaman keliru tentang ibadah bahwa ia bukan untuk meraih surga dan bukan untuk menjauhi neraka. Sebagian dari mereka berkata, “Ya Allah, jika aku beribadah karena berharap surgaMu maka haramkanlah surga bagiku, jika aku beribadah karena berharap jauh dari nerakaMu maka bakarlah aku dengan nerakaMu.”

Sejak masa itu tasawuf mulai mengambil beberapa fase perkembangan.

Permulaan dan kemunculan
Terminologi tasawuf dan sufiah muncul pertama di Kufah karena kedekatannya dengan negeri Persia dan pengaruh filsafat Yunani setelah masa terjemah ditambah dengan prilaku rahib-rahib ahli kitab.

Siapa yang pertama kali menamakan dirinya dengan sufi? Para pengkaji sejarah berbeda pendapat menjadi tiga kelompok:

1- Ibnu Taimiyah menyatakan bahwa orang pertama yang dikenal dengan as-Sufi adalah Abu Hasyim al-Kufi wafat 150 atau 162 H di Syam setelah dia pindah ke sana, dia ini hidup semasa Sufyan ats-Tsauri wafat 155 H, Sufyan berkata tentangnya, “Kalau bukan karena Abu Hasyim niscaya perkara-perkara riya` yang njlimet tidak diketahui.”

2- Sebagian ahli sejarah menyatakan bahwa Abdak namanya Abdul Karim atau Muhammad, yang wafat tahun 210 H adalah orang pertama yang menamakan dirinya sufi, al-Harits al-Muhasibi menyebutkan darinya bahwa dia dari kelompok setengah Syi’ah yang menamakn dirinya sufiah yang terbentuk di Kufah.

3- Ibnu Nadim dalam al-Fihrisat menyatakan bahwa Jabir bin Hayyan wafat 208 H. murid Ja’far ash-Shadiq adalah orang pertama yang menamakn diri sufi, Syiah menganggapnya salah seorang pemukanya, sementara orang-orang filsafat menisbatkannya kepada mereka.

Dari asal kata apa sufi itu?

Ibnu Taimiyah, Ibnu Khaldun dan banyak kalangan ulama menyatakan bahwa ia berasal dari kata ash-Shuf (bulu kambing) yang merupakan syiar rahib ahli kitab di mana orang-orang sufi angkatan pertama terpengaruh oleh mereka, pendapat ini membatalkan semua pendalilan dan pengembangan kata-kata lainnya sesuai dengan kaidah bahasa Arab, ini jelas-jelas membatalkan penisbatan sufiah kepada ahli Shuffah dari kalangan para sahabat Rasulullah saw atau penisbatan kepada Ali bin Abu Thalib, al-Hasan al-Bashri dan Sufyan ats-Tsauri, penisbatan yang memerlukan bukti dan ia tidak ada.
Abu Raihan al-Biruni wafat tahun 440 H menyatakan bahwa ia diambil dari kata Yunani ‘Sohp’ yang berarti hikmah, pendapat ini berargumen bahwa penyebaran sufiah di Baghdad dan sekitarnya terjadi setelah gerakan terjemah pada abad kedua hijriah, pada waktu tersebut ia belum dikenal di tempat lain dari dunia Islam.

Dari al-Mausu’ah al-Muyassarah, isyraf Dr. Mani’ al-Juhani.