Berikut ini adalah kisah tentara bergajah secara ringkas, padat, tetapi mendekati kebenaran. Dalam kisah orang-orang yang dimasukkan di dalam parit berapi telah disebutkan bahwa Zu Nuwas, raja terakhir orang-orang Himyar yang musyrik; dialah orang yang membunuh kaum Nasrani dengan memasukkan mereka ke dalam parit yang berapi, jumlah mereka yang dibunuh olehnya kurang lebih ada dua puluh ribu orang. Tiada seorang pun dari mereka yang selamat kecuali Daus yang dijuluki dengan panggilan Zu Sa’labain.
Daus melarikan diri dan meminta pertolongan kepada Kaisar raja di negeri Syam, yang juga seagama dengannya, yaitu pemeluk agama Nasrani. Maka Kaisar berkirim surat perintah kepada Raja Najasyi di negeri Habsyah, mengingat letak geografis Habsyah lebih dekat ke negeri Yaman.
Maka Raja Najasyi mengirimkan dua orang panglima perangnya— yaitu Aryat dan Abrahah ibnus Sabah Abu Yaksum— dengan membawa pasukan yang sangat banyak jumlahnya. Maka mereka memasuki negeri Yaman dan mereka merajalela di kota-kotanya, lalu merebut kerajaan negeri Yaman dari tangan orang-orang Himyar, sedangkan Zu Nuwas sendiri tewas karena tenggelam di laut.
Dan Habsyah menjadikan negeri Yaman sebagai negeri yang berdiri sendiri di bawah pimpinan kedua panglima tersebut, yaitu Aryat dan Abrahah. Lalu keduanya berselisih pendapat mengenai siapa di antara keduanya yang berhak menjadi raja di negeri Yaman; keduanya berupaya menjatuhkan yang lainnya. Pada akhirnya salah satu pihak berkata kepada pihak lawannya, “Kita tidak perlu mengorbankan prajurit yang tidak berdosa di antara kita, lebih baik kita perang tanding saja antara aku dan kamu. Maka barang siapa yang dapat mengalahkan lawannya dan berhasil membunuhnya, dialah yang berhak menjadi raja di negeri ini.” Pihak lainnya menyetujui usul ini, akhirnya keduanya bertanding dalam suatu ajang perang yang di belakang masing-masing pihak ada parit.
Di suatu kesempatan Aryat berhasil menebaskan pedangnya dan mengenai hidung dan mulut Abrahah, dan hampir saja membelah wajahnya. Maka Atudah maula (bekas budak) Abrahah membela majikannya dan menyerang Aryat serta berhasil membunuhnya. Maka Abrahah diusung dari arena itu dalam keadaan terluka, lalu lukanya diobati hingga akhirnya ia sembuh; setelah itu ia sendirilah yang memimpin tentara Habsyah di negeri Yaman.
Raja Najasyi (Negus) berkirim surat kepadanya, yang isinya mencela perbuatannya itu dan mengancamnya serta bersumpah bahwa dirinya benar-benar akan menginjak-injak negeri Yaman dan membelah ubun-ubunnya. Maka Abrahah membalas suratnya dengan nada memohon belas kasihan dan berdiplomasi, seraya mengirimkan hadiah-hadiah, cindera mata, dan kantong yang berisikan tanah negeri Yaman serta potongan rambut ubun-ubunnya. Semuanya itu ia kirimkan bersama kurirnya untuk disampaikan kepada Raja Najasyi.
Di dalam suratnya Abrahah mengatakan, “Hendaklah Anda (raja) menginjak-injak tanah ini untuk menunaikan sumpah Anda, dan inilah potongan rambut ubun-ubunku kuserahkan kepadamu.” Ketika hal tersebut sampai di pangkuan Raja Najasyi, ternyata ia terpikat dengan cara yang dilakukan Abrahah, dan akhirnya ia puas dan mendukung apa yang dilakukan oleh Abrahah. Dan dalam suratnya itu Abrahah menjanjikan kepada Najasyi bahwa dirinya akan membangun sebuah gereja di tanah Yaman atas nama Raja Najasyi, yang belum pernah ada suatu gereja pun dibangun sebesar itu.
Maka Abrahah membangun sebuah gereja yang sangat besar di kota San’a, bangunannya tinggi sekali lagi dipenuhi dengan berbagai ukiran dan pahatan; orang-orang Arab menamainya Al-Qulais. Disebut demikian karena bangunannya tinggi sekali, hingga membuat qalansuwah (peci) orang yang memandangnya hampir saja terjatuh dari kepalanya, mengingat puncaknya tinggi sekali.
Kemudian Abrahah menginstruksikan kepada Asyram agar memalingkan para peziarah dari kalangan orang-orang Arab untuk mengunjunginya sebagaimana Ka’bah di Mekah dikunjungi mereka. Dan Abrahah memerintahkan kepada Asyram supaya menyerukan pengumuman ini di seluruh kerajaannya. Maka orang-orang Arab keturunan ‘Adnan dan Qahtan tidak suka dengan hal tersebut, dan orang-orang Quraisy sangat marah karenanya, hingga sebagian dari mereka ada yang bertekad membuat kerusuhan di dalamnya. Dia masuk dengan diam-diam ke dalamnya di malam hari, lalu menimbulkan peristiwa yang menggemparkan di dalamnya, setelah itu ia lari pulang ke Hijaz.
Ketika para pelayan gereja melihat peristiwa tersebut, mereka melaporkan kepada rajanya (yaitu Abrahah) dan mengatakan kepadanya bahwa sesungguhnya yang melakukan peristiwa tersebut tiada lain adalah kaki tangan orang-orang Quraisy, karena mereka marah dan tidak suka dengan adanya gereja ini yang dianggap menyaingi kepunyaan mereka. Maka Abrahah bersumpah bahwa dirinya benar-benar akan menuju ke Ka’bah di Mekah dan benar-benar akan menghancurkannya batu demi batu hingga rata dengan tanah.
Muqatil ibnu Sulaiman menyebutkan bahwa ada seorang pemuda dari kalangan Quraisy memasuki gereja besar di Yaman itu, lalu ia membakarnya, sedangkan di hari itu cuaca sangat panas, maka dengan mudahnya gereja itu terbakar hingga ambruk. Karena peristiwa itulah Abrahah bersiap-siap menghimpun bala tentaranya dalam jumlah yang sangat besar. Lalu ia berangkat dengan pasukannya itu dengan maksud agar tiada seorang pun yang dapat menghalang-halangi niatnya. Selain dari itu ia membawa seekor gajah yang besarnya tak terperikan, diberi nama Mahmud; gajah tersebut sengaja dikirim oleh Raja Najasyi kepadanya untuk tujuan tersebut. Bahkan menurut pendapat lain, selain gajah Mahmud itu ada delapan gajah lainnya; dan menurut pendapat yang lainnya lagi dua belas ekor gajah; hanya Allah-lah Yang Maha Mengetahui.