تاچندین قرن ، مشایخ صوفیه كه راه طریقت را ممهد می نمودند و طالبان سلوك صوفیانه را ارشاد و هدایت می كردند ، در حلقه های محدود و مجالس معدود خود كه غالباً در مساجد دایر می شد ، آنچه را در تفسیر و توجیه حقایق قرآنی طریق نیل به حقیقت می دانستند ، به طریق وعظ و نقل به طالبان این معانی عرضه می‌كردند ، نوعی اخوت بین آنها برقرار می نمودند، آنها را به اقتضای استعداد و آمادگیشان در عزلتگاهها و عبادتگاههای خالی از تزاحم به التزام مراتب توبه و انابه و عزلت و انقطاع و تسلیم و توكل رهبری می كردند و مرشد و شیخ و مراد آنها محسوب می شدند. در آن مدت دست كم 10 تن از مشایخ قوم ، ائمه تصوف محسوب می‌شدند، چنانكه مذاهب خاص و طرز تربیت و ارشاد آنها طالبان و پیروانی داشت و هر مذهب براساسی جداگانه مبنی بود .
تا قرنها بعد كه شمار مذاهب صوفیه بیشتر شد و در دنبال رواج تصوف سلسله ها و طرایق رایج در خانقاهها به وجود آمد ، سلسله این مشایخ به صورت توالی طبقات دنبال گردید و طبقات صوفیه مثل طبقات محدثان ، طبقات مفسران ، طبقات نحویان و جز آنها شكل گرفت و مورد توجه واقع شد. مراد از این طبقات در اینگونه تعبیرها مجموع جماعتی بود كه در سن و سال ، و در درك صحبت مشایخ و استادان با هم مشترك یا معاصر می‌شدند. نخستین طبقه صوفیه چنانكه در كتابهای مربوط به طبقات صوفیه یا سایر كتابهای خاص قوم آمده است ، از جمله عبارت بودند از ابوهاشم صوفی ، فضیل بن عیاض ، ابراهیم ادهم ، ذوالنون مصری ، بشر حافی ، حارث محاسبی ، بایزید بسطامی ، ابوسلیمان دارانی ، ابوحفص حداد ، احمد بن خضرویه ، حمدون قصّار و معروف كرخی . طبقه دوم شامل ابوالقاسم جنید ، ابوالحسین نوری ، رویم بغدادی ، عمرو بن عثمان مكی ، سهل بن عبداللـه تستری ، محمد بن علی ترمذی و ابوسعید خراز بود . نام ابومحمد جُریری ، ابوالعباس ابن عطا آدمی ، ابوحمزه بغدادی ، ممشاد دینوری ، حسین بن مصور حلاج و خیر نساج جزو طبقه سوم ، و نام ابوبكر شبلی ، مرتعش نیشابوری ، ابوبكر كتانی ، ابوبكر ابن یزدانیار ، ابن سالم بصری و ابویعقوب نهرجوری جزو طبقه چهارم بود . طبقه پنجم ابوالعباس سیاری ، ابوالقاسم نصرآبادی ، ابومنصور معمر اصفهانی ، و ابوعلی دقاق را شامل می‌شد. كسانی چون ابوالعباس قصاب ، ابوالحسن خرقانی ، ابوسعید ابوالخیر ، ابوالقاسم قشیری ، خواجه عبدالله انصاری ، ابوعبداللـه خفیف ، ابواسحاق كازرونی ، ابوعلی فارمدی ، و شیخ احمد جام ژنده پیل به نسلهای بعد تعلق داشتند كه در طبقه ششم یا طبقه بعد محسوب می شدند و از همان ایام یا قدری دیرتر ، سلاسل صوفیه متشعب شد و خانقاهها و طرایق جداگانه به وجود آمد .

این سلسله ها متعدد یا متنوع بود و بر حسب شخصیت بنیان گذاران فعالیت بیشتر و شعبه های افزون تر یا كمتر داشت . تاریخ تصوف در فاصله بین طبقه ششم تا عصر حاضر تقریباً تاریخ این سلاسل و طرایق است . هرچند در این میان مشایخ صوفیه هم بوده اند كه به هیچ یك از این سلسله ها منسوب نبوده اند ، یا در عین حال با چند سلسله از این سلاسل ارتباط داشته اند .

در مدت توالی طبقات اكابر صوفیه ، كسانی كه ائمه صوفیه خوانده می شدند و اولین معاریف آنها به طبقه اول ، دوم و آخرین آنها به طبقات چهارم و پنجم تعلق داشتند ، در تمهید مبانی طریقت و در تحول آن از مجرد زهد یا سلوك عاشقانه در سیر الی الله به مباحث عرفان كه شامل تأمل در حقایق الهی و اسرار وجود بود ، مساعی قابل ملاحظه به كار بردند و در تلفیق و توفیق بین طریقت و شریعت و مخصوصاً در رفع توهم تعارض آنها و رفع سوء تفاهم بین صوفیه و متشرعه سعی بسیار ورزیدند . در بین ائمه تصوف نقش بایزید بسطامی ( د 234 ق ) ، حارث محاسبی ( د 243 ق ) و محمدبن علی ترمذی ، معروف به حكیم ( د 285 ق ) ، و نیز ابوالقاسم جنید ( د 297 ق ) ، ابوالحسین نوری ( د 295 ق ) ، ابوسعید خراز ( د 286 ق ) و ابوعبدالله خفیف (د331 ق ) در تكوین و توسعه مبانی تصوف و عرفان قابل ملاحظه بود .

از این جمله بایزید بسطامی اهل سكر بود و در اواخر عمر قبضی بر احوالش مستولی به نظر می رسید. وی در عین حال در سطح تفكر عوام مریدان خویش متوقف نمی شد . شطحیات بسیار بدو منسوب گشت و حكایات غریب از حالات سكر او شهرت داشت كه شاید اسناد تمام یا اكثر آن حالات یا حكایات به او خالی از باورهای مبالغه آمیز مریدانه نباشد . حارث محاسبی اهل صحو (= هشیاری ) بود ، و كتاب الرعایه لحقوق اللـه او نمونه ای از این حال هشیاری اوست و قول او در باب رضا كه نزد اكثر مشایخ از زمره مقامات ، و نزد وی از جمله حالات است نشانه ای از غور و تأمل او در نظم احوال و مقامات اهل سلوك محسوب است .

حمد بن علی ترمذی ، معروف به حكیم ، در رد اهل ملامت كه در آن ایام در نیشابور ظاهر شده بودند و صوفیه را به عدم اخلاص در عمل منسوب می كردند ، سعی بسیار كرد . در باب قلب و آنچه صوفیان اطوار سبعه قلب می خواندند ، اقوال وی تازگی داشت و آنچه دیگران ،امثال غزالی و نجم الدین كبری در این باب گفته اند ، مسبوق به اقوال اوست. سخنان او در باب مسأله ولایت هم اهمیت خاص دارد و از اعتقاد او به تفوق ولایت بر نبوت حاكی است و درباب آن اعتقاد بعدها مناقشات بسیار بین صوفیه پیش آمد . پاره ای سؤالها هم در این باب مطرح كرده كه قرنها بعد از او مورد توجه ابن عربی واقع شده است .

ابوالقاسم جنید ، معروف به شیخ الطائفه ، در عصر خود معلم و پیشوای صوفیه بغداد بود . وی خواهرزاده سری سقطی از مشایخ بزرگ صوفیه و در عین حال شاگرد حارث محاسبی نیز بود . مشایخ نسلهای بعد ، او را آخرین نماینده تصوف خواندند و مرگ او را مرگ تصوف واقعی تلقی كردند. وی در عین التزام به سلوك در طریقت ، تصوف را با لطایف و دقایقی كه در آن باب گفت ، تقریباً به صورت علم درآورد و كوشید تا در كنار علم فقه و علم كلام ، جایی هم برای علم تصوف بازكند . چند رساله ومقاله كوتاه كه در این زمینه از او باقی است ، اهمیت شخصیت او را در نشر تصوف نشان می دهد . در تعلیم او ـ كه در عین حال محتاطانه و مبنی بر صحو و التزام شریعت بود ـ نهایت سلوك عبارت بود از فنا در " مذكور "، و در باب نهایت سیر هم خاطر نشان می كرد كه " النهایه هی الرجوع الی البدایه ".

ابوسعید خراز كه هر چند خود را مرید ابوالقاسم جنید می خواند ، نزد محققان نسلهای بعد " بار خدای جنید … و از او مه " بود ( خواجه عبدالله ) . وی در تقریر لطایف تصوف‌، قدرت تفكر و تحلیل نشان داد . چند رساله مختصر كه از او باقی است و از جمله شامل الصدق ، المسائل و شماری رساله منتشر نشده اوست ، او را در ردیف جنید و حكیم ترمذی از پایه گذاران آنچه علم الاشارات نام دارد ـ و همان تصوف علمی و بحثی است ـ قرار می دهد. با آنكه در گرفتاری سختی كه در بغداد در این ایام برای صوفیه پیدا شد و غلام الخلیل از متشرعه صوفیه آنها را نزد خلیفه به الحاد متهم كرد و به محكمه كشاند و وی نیز مثل جنید خود را كنار كشید ، تأثیر اقوال این استاد و شاگرد در تبیین حقایق تصوف قابل ملاحظه بود .

ابوالحسین نوری كه برخلاف آنها در این گرفتاری پایداری نشان داد و به محكمه قاضی هم رفت ، با وجود التزام به متابعت ظاهر شریعت ، گرایش گونه ای هم به سكر داشت و از اصحاب درد محسوب می شد، چیزی كه می تواند اوصاف شبلی از اصحاب جنید را نیز تصویر كند . شبلی هم مانند ابن عطا در ماجرای حلاج با او توافق داشت ، اما برخلاف ابن عطا آن را اظهار نكرد. چنانكه ابوعبدالله خفیف، معروف به شیخ كبیر هم كه از جمله متأخران ائمه صوفیه است ، با وجود تأیید حلاج ، در التزام صحو و اجتناب از طریقه اهل سكر باقی ماند .