Gajah tersebut akan dijadikan sebagai sarana untuk merobohkan Ka’bah, misalnya mengikat semua sisi Ka’bah dengan rantai, lalu mengikatkannya pada leher gajah, maka gajah akan menariknya dan tembok Ka’bah akan runtuh sekaligus dalam waktu yang singkat.
Ketika orang-orang Arab mendengar keberangkatan Abrahah dengan pasukannya yang bergajah itu, maka mereka merasakan adanya bahaya yang amat besar akan menimpa diri mereka. Dan mereka merasakan bahwa sudah merupakan keharusan bagi mereka membela Bait mereka dan mengusir orang-orang yang bermaksud jahat terhadapnya.
Maka bangkitlah seorang lelaki dari kalangan penduduk Yaman yang terhormat dan terbilang sebagai pemimpin mereka untuk mengadakan perlawanan terhadap Abrahah. Orang tersebut bernama Zu Nafar, maka ia menyerukan kepada kaumnya dan orang-orang Arab lainnya untuk memerangi Abrahah dan berjihad melawannya demi membela Baitullah, karena Abrahah bermaksud akan merobohkannya dan meratakannya dengan tanah.
Seruannya itu mendapat sambutan yang hangat dari mereka, lalu mereka berperang melawan Abrahah dipimpin oleh Zu Nafar, tetapi pada akhirnya Zu Nafar kalah. Ini tiada lain karena kehendak Allah (Subhanahu wa Ta’ala) yang bertujuan akan memuliakan Baitullah dan mengagungkannya. Zu Nafar ditawan, tetapi Abrahah memaafkannya dan membawanya pergi bersama ke Mekah.
Dan ketika perjalanan Abrahah sampai di tanah orang-orang Khas’am, ia dihalangi oleh Nufail ibnu Habib Al-Khas’ami bersama kaumnya, yang memeranginya selama dua bulan. Tetapi pada akhirnya Abrahah berhasil mengalahkan mereka dan menawan Nufail ibnu Habib; pada mulanya Abrahah bermaksud membunuhnya, kemudian ia memaafkannya dan membawanya serta ke Mekah sebagai penunjuk jalannya di negeri Hijaz.
Ketika perjalanan Abrahah sampai di dekat Taif, maka para penduduk Taif datang menyambutnya dan bersikap diplomatis dengannya karena takut dengan rumah peribadatan mereka yang mereka beri nama Al-Lata, karenanya Abrahah menghormati mereka. Dan mereka mengirimkan Abu Rigal untuk pergi bersamanya sebagai penunjuk jalan.
Ketika perjalanan Abrahah sampai di Al-Magmas —yaitu di suatu tempat yang terletak tidak jauh dari Mekkah— ia turun beristirahat, sedangkan bala tentaranya merampas semua ternak penduduk Mekah dan sekitarnya atas perintah Abrahah sendiri. Dan di antara ternak unta yang dirampas terdapat dua ratus ekor unta milik Abdul Muttalib. Dan tersebutlah orang yang diserahi oleh Abrahah untuk memimpin perampasan ternak itu adalah komandan pasukan terdepannya yang dikenal dengan nama Al-Aswad ibnu Maqsud, lalu ia dikecam oleh sebagian bangsa Arab melalui bait-bait syairnya, menurut apa yang diriwayatkan oleh Ibnu Ishaq.
Abrahah mengirimkan Hannatah Al-Himyari ke Mekah dan memerintahkan kepadanya supaya kembali membawa orang Quraisy yang paling terhormat. Dan Abrahah menyampaikan kepadanya bahwa dia datang bukan untuk memerangi kamu, terkecuali jika kamu menghalang-halanginya dari Baitullah. Maka datanglah Hannatah ke Mekah, lalu ditunjukkan kepadanya rumah Abdul Muttalib ibnu Hasyim, lalu ia menyampaikan kepadanya apa yang dikatakan oleh Abrahah. Maka Abdul Muttalib mengatakan kepadanya,
“Demi Allah, kami tidak berniat untuk memeranginya, juga kami tidak mempunyai kekuatan untuk itu. Ini adalah Baitullah yang disucikan dan merupakan bait (rumah) kekasih-Nya, yaitu Ibrahim. Maka jika Dia mempertahankannya, sudah wajar karena ia adalah rumah-Nya yang disucikan. Dan jika Dia membiarkan antara bait-Nya. dan Abrahah, maka tiada kemampuan bagi kami untuk mempertahankannya.”
Hannatah berkata kepada Abdul Muttalib, “Kalau begitu, marilah engkau pergi bersamaku untuk menemuinya.” Maka Abdul Muttalib berangkat bersama Hannatah. Dan ketika Abrahah melihat Abdul Muttalib, ia terkejut melihat penampilan Abdul Muttalib yang tinggi lagi berwibawa dan tampan. Maka ia menghormatinya, dan ia turun dari singgasananya, lalu duduk bersama Abdul Muttalib di hamparan permadani.
Abrahah berkata kepada juru terjemahnya untuk mengatakan kepada Abdul Muttalib mengenai keperluannya hingga datang menghadap kepadanya. Abdul Muttalib berkata kepada juru terjemah Abrahah, “Sesungguhnya aku datang untuk keperluanku sendiri, yaitu sudilah kiranya sang raja (Abrahah) menyerahkan kepadanya dua ratus ekor unta miliknya yang telah dirampasnya.”
Abrahah terkejut dan mengatakan kepada juru terjemahnya bahwa katakanlah kepadanya, “Sesungguhnya pada mulanya ketika aku melihatmu, aku merasa kagum dengan penampilan dan wibawamu. Tetapi setelah engkau berbicara kepadaku, kesanku menjadi sebaliknya; apakah engkau berbicara kepadaku hanya mengenai dua ratus ekor unta yang telah kurampas darimu? Sedangkan engkau meninggalkan bait-mu yang merupakan agamamu dan agama nenek moyangmu, padahal aku datang untuk merobohkannya, lalu mengapa engkau tidak berbicara kepadaku mengenainya?”
Abdul Muttalib menjawab, “Sesungguhnya aku adalah pemilik unta itu dan sesungguhnya bait itu mempunyai Pemiliknya sendiri yang akan membelanya.” Abrahah berkata, “Dia tidak akan dapat mencegahku dari merobohkannya.” Abdul Muttalib berkata, “‘Kalau begitu, terserah Anda.”
Menurut suatu pendapat, sesungguhnya bersama Abdul Muttalib terdapat segolongan orang-orang terhormat dari kalangan orang-orang Arab. Mereka menawarkan kepada Abrahah sepertiga dari harta Tihamah dengan syarat Abrahah mengurungkan niatnya dari menghancurkan Ka’bah. Tetapi Abrahah menolak tawaran mereka dan mengembalikan kepada Abdul Muttalib dua ratus ekor untanya.
Abdul Muttalib kembali ke Mekah dan menemui orang-orang Quraisy, lalu memerintahkan kepada mereka agar keluar dari Mekah dan berlindung di atas puncak-puncak bukitnya karena takut akan serangan bala tentara Abrahah. Setelah itu Abdul Muttalib pergi ke Ka’bah dan memegang pegangan pintu Ka’bah, sedangkan di belakangnya ikut beberapa orang dari kaum Quraisy. Mereka semuanya berdoa kepada Allah dan memohoh pertolongan kepada-Nya dari serangan Abrahah dan bala tentaranya.
