Ketika Rasulullah menyampaikan kekhawatiran akan diwajibkannya shalat qiyam Ramadhan, tak lama berselang, beliau wafat dan tidak ada keterangan hadis yang menjelaskan pelaksanaan shalat tarawih berjamaah di masjid.
Akhirnya para sahabat tetap berangkat ke masjid untuk menunaikan shalat qiyam Ramadhan. Sebagian sahabat ada yang shalat sendirian, dan sebagian yang lain ada yang shalat berjamaah, dan hal ini berlangsung sampai masa pemerintahan Sayyidina Umar.
Di masa pemerintahan Sayyidina Umar, shalat tarawih dilakukan dengan cara berjamaah yang mana saat itu tidak ada satu sahabat yang mengingkarinya.
Hal ini sebagaimana dikatakan oleh Abdurrahman bin Abdul Qori dalam sebuah hadits sebagai berikut:
عَنْ عَبْدِ الرَّحْمَنِ بْنِ عَبْدٍ الْقَارِيِّ أَنَّهُ قَالَ خَرَجْتُ مَعَ عُمَرَ بْنِ الْخَطَّابِ رَضِيَ اللَّهُ عَنْهُ لَيْلَةً فِي رَمَضَانَ إِلَى الْمَسْجِدِ فَإِذَا النَّاسُ أَوْزَاعٌ مُتَفَرِّقُونَ يُصَلِّي الرَّجُلُ لِنَفْسِهِ وَيُصَلِّي الرَّجُلُ فَيُصَلِّي بِصَلَاتِهِ الرَّهْطُ فَقَالَ عُمَرُ إِنِّي أَرَى لَوْ جَمَعْتُ هَؤُلَاءِ عَلَى قَارِئٍ وَاحِدٍ لَكَانَ أَمْثَلَ ثُمَّ عَزَمَ فَجَمَعَهُمْ عَلَى أُبَيِّ بْنِ كَعْبٍ ثُمَّ خَرَجْتُ مَعَهُ لَيْلَةً أُخْرَى وَالنَّاسُ يُصَلُّونَ بِصَلَاةِ قَارِئِهِمْ قَالَ عُمَرُ نِعْمَ الْبِدْعَةُ هَذِهِ وَالَّتِي يَنَامُونَ عَنْهَا أَفْضَلُ مِنْ الَّتِي يَقُومُونَ يُرِيدُ آخِرَ اللَّيْلِ وَكَانَ النَّاسُ يَقُومُونَ أَوَّلَه