لمَّا طُعِنَ عُمَرُ بن الخطَّاب رضِي الله عنه بسِكِّينٍ مَسمومةٍ وأَيْقَن أنَّه مَيِّتٌ طَلبوا منه أن يَسْتَخْلِفَ كما اسْتخلَفهُ أبو بكرٍ رضِي الله عنه؛ لكنَّه أَبَى ذلك، ولكن جعَل سِتَّةً مِن الصَّحابةِ وكُلُّهُم مِن المُبشَّرين بالجنَّة: عُثمانَ بن عفَّانَ، وعَلِيَّ بن أبي طالبٍ، وعبدَ الرَّحمن بن عَوفٍ، والزُّبيرَ بن العَوَّامِ، وسعدَ بن أبي وَقَّاصٍ، وطَلحةَ بن عُبيدِ الله رضِي الله عنهم، وأَوْصاهُم أن يَختاروا رجلًا منهم يَخْلُفُه بعدَ مَوتِه، فلمَّا مات وصُلِّيَ عليه ودُفِنَ اجتمعوا في بيتِ المِسْوَرِ بن مَخْرَمَةَ، جَمَعَهُم المِقْدادُ بن الأسودِ، وحضَر عبدُ الله بن عُمَرَ كذلك، وتَداوَلُوا بينهم حتَّى قال عبدُ الرَّحمنِ بن عَوفٍ: مَن يَخرُج منها بِنفسِه على أن يُوَلِّيَها أَفضلَكُم؟ فلم يُجِبْ أحدٌ، فقال: هو أنا. يعني أنَّه يَنْسَحِب مِن الخِلافةِ، ولكن يكون أَمْرُ تَعيينِ الخَليفةِ له، فعَمِلَ عبدُ الرَّحمن جُهْدَهُ وسألَ النَّاسَ، حتَّى قِيلَ: إنَّه لم يَترُك حتَّى الصِّغارَ سألَهم: مَن يُولِّيها؟ ظَلَّ كذلك ثلاثةَ أيَّامٍ ثمَّ جَمَعَهُم عبدُ الرَّحمن ثمَّ سألَ عَلِيًّا أنَّ يَسِيرَ سِيرَةَ الخَليفَتين قَبلَهُ، فقال: إنَّه يَعملُ بِعِلْمِه وطاقَتِه. وأمَّا عُثمانُ فأجابَ بالإيجابِ فبايَعَهُ عبدُ الرَّحمن، ثمَّ بايَعَهُ النَّاسُ جميعًا حتَّى علِيُّ بن أبي طالبٍ، وكان طَلحةُ غائبًا عن هذا فلمَّا حضَر بايَع هو كذلك، وقد قِيلَ: إنَّ عبدَ الرَّحمن لمَّا سألَ النَّاسَ كانوا يَكادون يُجْمِعون على عُثمانَ. فكانت تلك قِصَّةَ خِلافتِه رضِي الله عنه وأَرضاهُ.