Nəhrəvan döyüşündən sonra “Xəvaric” adlı bir qrup Məkkədə yığıncaqlar təşkil edib, Nəhrəvanda ölənlər üçün matəm saxlayıb ağlayırdılar. Bir gün onlar öz aralarında belə bir fikrə gəldilər ki, oturub ağlamağın mənası yoxdur. İslam hökumətini devirib qardaşlarımızı öldürənləri məhv etməliyik. Bu məqsədlə, öncə Әli (ə), Müaviyə və Әmr ibn Ası öldürmək lazımdır. Onları öldürmək üçün könüllülər tələb olunduqda, Əbdürrəhman ibn Mülcəm ayağa qalxıb imam Әlini (ə) öldürəcəyini, ondan sonra Әmr ibn Bəkri Təmimi Әmr ibn Ası öldürəcəyini, bir başqası da Müaviyəni öldürəcəyini öz öhdələrinə götürdülər.
Onların üçü də and içib mübarək Ramazan ayının 19-cu gününü planlarını həyata keçirmək üçün münasib vaxt bildilər. Sonra isə qərarlaşdıqları günü gözləmək üçün öldürəcəkləri şəxslərin yaşadıqları şəhərlərə yollandılar. O iki nəfər işlərində müvəffəq olmasa da, amma İbn Mülcəm müvəffəq oldu.
İbn Mülcəm Kufəyə gəlib imam Әlinin (ə) düşmənləri ilə əlaqə yaradaraq, Ramazan ayının 19-cu gününə qədər onların evində qaldı.
Nəhayət, 40-cı hicri ilinin Ramazan ayının 19-da İbn Mülcəm namazda səcdə halında olan imam Әlinin (ə) başını zəhərli bir qılıncla yaraladı. Bununla da, o həzrət şəhadətə yetərək İslam dünyası matəmə qərq oldu. İmam Әlinin (ə) mehrabdakı “And olsun Allaha ki, artıq qurtuldum!” səsindən sonra mələk Cəbrailin səsi yüksəldi: “And olsun Allaha, hidayət sütunları yıxıldı və Әli şəhid edildi.” Camaat o həzrətin qatilini tutub imam Həsən Müctəbaya (ə) təhvil verdilər. İmam Əlinin (ə) yaralı bədənini isə öz evinə apardılar.
İmam Әli (ə) öz qatili barəsində oğlu Həsənə (ə) belə buyurdu: “Oğlum! Mənim qatilim olan bu adama xörək və su verin... Әgər diri qalsam, onunla necə rəftar edəcəyimi bilirəm. Amma əgər ölsəm, ona bir qılınc zərbəsindən artıq vurmayın.”
Nəhayət, o həzrət Ramazan ayının 21-də, 63 yaşında ikən əbədiyyətə qovuşdu və Nəcəfi-Əşrəf şəhərində torpağa tapşırıldı. Rza Şükürlü