ومنذ إسلامه كان يصاحب النبي ( ويجلس معه وقتًا كبيرًا؛ لينهل من علمه وفقهه، وحاول أبو هريرة أن يدعو أمه إلى الإسلام كثيرًا، فكانت ترفض، وذات يوم عرض عليها الإسلام فأبت، وقالت في رسول الله ( كلامًا سيِّئًا، فذهب أبو هريرة إلى الرسول (، وهو يبكي من شدة الحزن، ويقول: يا رسول الله، إنى كنت أدعو أمي إلى الإسلام وهى مشركة، فدعوتها اليوم فأسمعتني فيك ما أكره، فادع الله أن يهدي أم أبي هريرة.
فقال رسول الله (: (اللهم اهد أم أبي هريرة)، فخرج أبو هريرة من عند الرسول ( فرحًا مستبشرًا بدعوة نبي الله (، وذهب إلى أمه ليبشرها، فوجد الباب مغلقًا، وسمع صوت الماء من الداخل، فنادت عليه أمه، وقالت: مكانك يا أبا هريرة، وطلبت ألا يدخل حتى ترتدي خمارها، ثم فتحت لابنها الباب، وقالت: يا أبا هريرة، أشهد أن لا إله إلا الله وأن محمدًا عبده ورسوله.
فرجع أبو هريرة إلى الرسول ( يبكي من الفرح، ويقول: يا رسول الله أبشر، قد استجاب الله دعوتك، وهدى أم أبي هريرة، فحمد الرسول ( ربه، وأثنى عليه وقال خيرًا، ثم قال أبو هريرة: يا رسول الله، ادع الله أن يحببني أنا وأمي إلى عباده المؤمنين، ويحببهم إلينا، فقال رسول الله (: (اللهم حبّبْ عُبَيْدَك هذا وأمه إلى عبادك المؤمنين، وحبب إليهم المؤمنين)، قال أبو هريرة: فما خلق مؤمن يسمع بي ولا يراني إلا أحبني.