في يوم التروية هجم عدو الله أبو طاهر القرمطي على مكة و بيت الله الحرام من عام 317 هجرية ، فقتل الحجيج في المسجد الحرام قتلاً ذريعاً وفي فجاج مكة وفي داخل البيت، فخرج إليه ابن محلب، أمير مكّة، في جماعة من الأشراف، فسألوه في أموالهم، فلم يشفّعهم، فقاتلوه، فقتلهم أجمعين، وقلع باب البيت، وأصعد رجلاً ليقلع الميزاب فسقط فمات، وطرح القتلى في بئر زمزم ودفن الباقين في المسجد الحرام حيث قُتلوا بغير كفن، ولا غسل، ولا صُلّي على أحد منهم، وأخذ كسوة البيت فقسمها بين أصحابه، ونهب دور أهل مكّة.
فلّما بلغ ذلك المهديَّ أبا محمّد عبيدالله الفاطمي بأفريقية كتب إليه ينكر عليه ذلك، ويلومه، ويلعنه، ويقيم عليه القيامة، ويقول: قد حققتَ على شيعتنا ودعاة دولتنا اسم الكفر والإِلحاد بما فعلتَ، وإن لم تردّ على أهل مكّة وعلى الحجّاج وغيرهم ما أخذتَ منهم، وتردّ الحجر الأسود إلى مكانه، وتردّ كسوة الكعبة، فأنا بريء منك في الدنيا والآخرة.
فلمّا وصله هذا الكتاب أعاد الحجر الأسود على ما نذكره، واستعاد ما أمكنه من الأموال من أهل مكّة، فردّه، وقال: إنّ الناس اقتسموا كسوة الكعبة وأوال الحُجّاج، ولا أقدر على منعهم.
في سنة 337 هجرية أعاد القرامطة الحجر الأسود إلى مكة، وقالوا: أخذناه بأمر، وأعدناه بأمر.
وكان بجكم قد بذل لهم في رده خمسين ألف دينار، فلم يجيبوه، وردوه الآن بغير شيء في ذي القعدة، فلما أرادوا رده حملوه إلى الكوفة، وعلقه بجامعها حتى رآه الناس، ثم حملوه إلى مكة، وكانوا أخذوه من ركن البيت الحرام سنة سبع عشرة وثلاثمائة، وكان مكثه عندهم اثنتين وعشرين سنة.
