عبدالقادر گیلانی تلاش زیادی برای اصلاح تصوف کرد. تلاش‌های او در ابعاد زیر قابل ذکر است پالایش تصوف از چیزهایی که با آن آمیخته شده بود و بازگرداندنش به رسالت اصلی، و تبدیل تصوف به یک مکتب تربیتی که هدف اصلی آن کاشتن و زراعت معانی تجرد و دلبریدگی خالص از دنیا و زهد صحیح است.
حمله به آنانی که از راه تصوف منحرف گشته بودند و آن را وسیلهٔ ظاهرسازی خود قرار داده و معنایش را تغییر داده بودند. وی بدون آنکه از طایفه‌های صوفیه نام ببرد آن‌ها را دسته‌بندی کرد تا خصوصیاتی را که باعث پایبندی تصوف به کتاب و سنت است، را بنمایاند؛ و هم بدون برانگیختن دشمنی یا ناراحتی امکان اصلاح منحرفان را فراهم سازد. فرقه‌هایی با عنوان‌های اباحیه، متکامله، متجاهله و غیره.