عالج ألخليفة علي بن ابي طالب رضي الله عنه قضية الخوارج بالحكمة والموعظة الحسنة اوﻻ، ثم بالحزم وبالحسم ثانيا، حيث حاول أولاً أن يقنعهم بخطأهم في تصوراتهم ومواقفهم، فناقشهم ووعظهم هو وأصحابه: ابن عباس وغيره، وأقاموا عليهم الحجة، حتى رجع منهم الألوف.
ويلاحظ هنا:أنه عليه السلام ينهى ابن عباس عن أن يخاصمهم بالقرآن، فإن القرآن حمال ذو وجوه، ولكن يخاصمهم بالسنة، فإنهم لن يجدوا عنها محيصاً.
كما أنه هو نفسه قد التزم بذلك إلى حدٍ كبير، حيث نجده يهتم بأن يحتج عليهم بأقوال النبي صلى الله عليه وسلم وأعماله بالدرجة الأولى، فاحتج عليهم بأنه صلى الله عليه وسلم) قد رجم الزاني ثم صلى عليه وورثه أهله، وقتل القاتل كذلك، وقطع السارق وجلد الزاني غير المحصن، ثم قسم عليهما من الفييء، ونكحا المسلمات، فأخذهم بذنوبهم، ولم يمنعهم سهمهم من الإسلام ولا أخرج أسماءهم من بين أهله.
واحتج عليهم أيضاً بمن النبيعلى أهل مكة فلم يسب نساءهم ولا ذريتهم، وبمحوه كلمة: (رسول الله) من صحيفة الحديبية، وبإعطائه النصفة لأهل نجران، حيث قال: "ثم نبتهل فنجعل لعنة الله على الكاذبين" وبتحكيمه سعد بن معاذ في بني قريظة الذين نقضوا العهد.
ولكن..رغم كل تلك المحاولات والمواعظ والاحتجاجات، ورغم رجوع الألوف منهم عن غيهم، فقد بقيت بقيّة حوالي أربعة آلاف أبو إلا البقاء على ما هم عليه، ومحاربته، وقتلوا الأبرياء، حتى النساء، وأخافوا السبيل، وأفسدوا في الأرض، فاضطر عليه السلام لمحاربتهم لدفع شرهم، وإخماد نار فتنتهم، فحاربهم، وقتلهم، ولم يفلت منهم إلا أقل من عشرة كما لم يستشهد من أصحابه إلا أقل من عشرة، كما أخبر به عليه السلام قبل ذلك.
ويقول المؤرخون:إن الذين أفلتوا من القتل قد اصبحوا بذرات بذرات أخرى للخوارج في مناطق عديدة فيما بعد.
وأما أولئك الذين استأمنوا، فقد صاروا يخرجون على عليّ عليه السلام وعلى غيره بعد ذلك، فخرج منهم ألفان على الإمام في النخيلة فقضى عليهم. ثم صار الخوارج يخرجون عليه في شراذم قليلة في بضعة مئات او أقل أو أكثر في الأنبار، وماسبذان، وجرجرايا، والمدائن، وسواد الكوفة، فكان يقضي على حركاتهم تلك الواحدة تلو الأخرى بيسر وسهولة.