Selâhaddin’in isteği üzerine oğlu Osman’la birlikte, Mısır donanması da gelip muhtemel bir Frenk donanmasının saldırısına karşı sahilleri kontrol altına aldı. Beyt Cibrin, Hebron, Beytüllahim ve çevresi de alınınca Müslüman birlikleri çeşitli kollardan Kudüs’e yürüdüler. 

Kudüs’e giderken ordunun konakladığı yerde farklı bir mana hisseden Selâhaddin, sohbet meclisinde âlimlere, içinde bulunduğu hâlet-i ruhiyeyi anlatınca çevrede araştırma yapan âlimler, yüksekçe bir tümseğin altında Hazret-i Musa Aleyhisselâmın kabrini buldular. 

Bu haberi Kudüs’ün fethinin beşareti sayan Selâhaddin, savaşta şehit olan askerlerin cesetlerini oraya defnettirdi. Kabrin başına türbe, yanına mescit, çevresine medrese yapılmasını ve oranın manevî bir merkez hâline getirilmesini istedi. Yapılacak masraflar için payına düşen ganimetten bir kısmını bıraktı. Fazla zaman kaybetmek istemediğinden yola devam etti.

20 Eylül 1187 tarihinde Kudüs yakınlarına varan Selâhaddin, şehrin batısında ordugâh kurdu. Zeytin Dağına çıkıp kaleyi iyice tetkik etti. Surların güçlendirildiğini, hendeklerin derinleştirildiğini görünce hemen saldırıya geçmedi. Hem kale sakinlerinin mukavemet güçlerini ölçmek, hem de kalenin zayıf yerlerini tesbit etmek maksadıyla içerdeki casuslarını harekete geçirip etrafa keşif kolları çıkardı.

Kalede rahipler ve mutaassıp Hıristiyanlar, kutsal addettikleri büyük haçın Müslümanların elinde olduğunu gördükçe savaşma isteğiyle halkı galeyana getirmeye çalışırken; Müslüman ordusunun çok güçlü olduğunu, kurdukları mancınıklarla şehrin her tarafını vurabileceklerini gören insanlar idarecilere, Selâhaddin’le anlaşma yollarını aramaları için yalvardılar. 

Beş gün kadar moral bozma gösterileri yapıp kalenin zayıf noktalarını tesbit ettikten sonra ilk hücumu Şam Kapısına yapan Müslümanlar, şiddetli mukavemet görmelerine rağmen zırhlı okçuların isabetli atışları sayesinde hendeği geçtiler ve kulenin altını oyarak bir kısmını çökertmeyi başardılar. 

Frenk askerlerinin, surlarda açılan gedikleri kapatmakta zorluk çektiğini gören Kont Balian, halkın da tazyiki ile Selâhaddin’le görüşmek istedi. Fethin müyesser olacağını hisseden Selâhaddin görüşmeye pek yanaşmayınca, Balian bir yandan Kubbetü’s-Sahrayı, Mescid-i Aksa’yı yıkmakla tehdit ederken, diğer yandan halifeye elçi göndererek yardım istedi.

Kudüs’teki mukaddes mabetlerin yıkılmasına ve şehrin tahrip edilmesine gönlü razı olmayan Selâhaddin, Balian’ın cazip tekliflerinden etkilenen halifenin tavsiyesi üzerine onlarla görüşmeyi kabul etti. 

Ekim ayının başlarında yapılan müzakerelerde erkekler için 10, kadınlar için 5, çocuklar için 1 dinar fidye ödenmesi, fakirlerin fidyelerini idarecilerin ödemesi, Frenklerin atlarını ve askerî teçhizatlarını yanlarında götürmeleri mukabilinde Kudüs Kalesi Müslümanlara teslim edildi. 

“Kâfirlere karanlığı getiren her şafak vakti parlayan nur, mukaddes belde Mekke’nin kardeşini esaretten kurtaran her Müslümanın efendisi” gibi sıfatlarla tavsif edilen Selâhaddin Eyyubî, Ekim ayının üçünde Kudüs’e girdi.