كان الشطر الأكبر من خلافه عثمان, يسوده الأمن, والاستقرار, والرخاء, ولكن شاء الله, أن تشتعل في أواخر خلافه, فتنة كبرى, ترتب عليها مقتل الخليفة مظلومًا, وتفريق كلمة الأمة, وتمزيق وحدتها.
وربما أن من أسباب ذلك, تغير أحوال العالم الإسلامي في عهد عثمان, فقد أتسعت الدولة, ودخلت في الإسلام شعوب ذات أجناس, وأعراق, ولغات متباينة, من الصعوبة جمعهم على منهج واحد, إضافة إلى حداثة عهدهم بالإسلام, وعدم تشربه في قلوبهم.
ومن جهة أخرى, كثرة الأموال, ومال الناس إلى الترف والراحة, وقد تفرق الصحابة في الأمصار, والخليفة عرف عنه لين الجانب, الحلم والرأفة, ونبذه لسفك الدماء, إضافة إلى كبر سنه, وشيخوخته (82عامًا). كل هذه المتغيرات شجعت أهل الفتن, على إشعال فتنهم, طمعًا في الزعامة والرياسة, ورغبة في تمزيق المسلمين, وتفريق وحدتهم.
فاشتعلت الفتنة العمياء، أشعلها عبد الله بن سبأ (وهو يهودي يمني ادعى الإسلام)، وكان قد دار في الأمصار، ثم استقر في مصر، وبدأ يشكك الناس في عقيدتهم، ويطعن في عثمان وولاته، ويدعو إلى خلافة علي، لبذر الفتنة والفرقة، فبدأت فتنته في الكوفة عام (34هـ/654م)، حيث طالبوا بتغيير الوالي، فغيره عثمان مجاراة لهم لمنع الفتنة.
قدمت الجموع الساخطة إلى المدينة لمجادلة الخليفة (وقد قدموا من الكوفة والبصرة ومصر في آن واحد) وتصدى لهم عليٌ، وشرح لهم خطأ تصرفاتهم، كما دافع الخليفة عن نفسه دفاعًا مقبولًا، فقفل الثائرون راجعين.
أدرك ابن سبأ أنه هزم. وأن الفرصة التي عمل لها سنوات أوشكت أن تضيع. فأعمل الحيلة وتدبر أمره، فزور خطابات وأختام على لسان الخليفة، وعلي وعائشة رضي الله عنهم تتضمن نداءات بخلع الخليفة، وتولية علي، وقتل المتمردين.