Menurut kepercayaan ahli sejarah sebelum Nabi Muhammad s.a.w. hijrah� ke Yathrib,� kota ini merupakan tempat yang belum maju seperti Makkah, dalam segi pembinaan, masyarakat dan sebagainya. Yathrib diasaskan oleh Yathrib bin Mahlaeil. Kawasan ini subur dengan tanaman seperti buah-buahan, sayur mayur, dan kaya akan air. Hal ini membuat Yathrib maju sedikit demi sedikit, Yathrib menjadi dikunjungi oleh banyak penduduk. Pada tahun 455 SM, warga Arab mulai mendatangi Yathrib dan menetap di sana.
Menurut sumber-sumber sejarah, dahulu Yathrib (sebelum hijrah) hanya sebuah tempat dimana terdapat sebuah kumpulan komuniti masyarakat kecil khususnya selepas kedatangan masyarakat Yahudi.
Penghijrahan dari Makkah ke Madinah
Pada hari Senin 20 September 622 M, Nabi Muhammad s.a.w. melakukan hijrah dari Makkah ke Madinah. Orientalis barat mengganggap tindakan ini, merupakan tindakan melarikan diri. Akan tetapi alasan nabi yang sebenarnya adalah karena jemputan penduduk Madinah sendiri.
Menurut sumber autentik seperti hadits, Madinah mempunyai dua buah suku yang berbeda (Aus dan Khasraj) di samping tiga buah suku Yahudi (Banu Qainuka, Banu Nadhir dan Banu Qurayza).� Suku Aus dan Khazraj menguasai kota Yathrib tetapi sering berperang satu sama lain.� Menurut ahli sejarah, kedua pihak ini mengetahui adanya kewujudan rasul di Makkah.� Lalu kedua pihak ini akhirnya membuat keputusan untuk menemui rasul ini, dengan tujuan untuk menyelesaikan konflik yang sering menerpa ke dua pihak ini. Nabi Muhammad s.a.w dan pengikutnya pun setuju untuk berhijrah ke Yathrib, yang kemudian dikenal menjadi kota Madinah Al-Munawwarah. Sesampai Nabi sampai di Madinah, ia membuat suatu lembaga untuk menyatukan kedua pihak di sana. Lembaga ini disetujui oleh semua penduduk di Madinah dan di beri julukan Piagam Madinah.
Perang Makkah-Madinah
Setelah masyarakat Islam menetap di Madinah, kaum Quraish Makkah mulai merasa terancam dengan kekusaan baru ini. Pada tahun 627 M, tentara Quraish di bawah pimpinan Abu Sufyan menyerang Madinah. Pasukan Abu Sufyan bekerjasama dengan Pasukan Banu Qurayza yang berasal dari Madinah. Menurut Sahih Al-Bukhari pertolongan Banu Qurayza merupakan suatu pelanggaran terhadap perjanjian Piagam Madinah.
Oleh karena itu seluruh lelaki kaum Bani Qurayza dihukum mati setelah pengadilan dijalankan oleh Saad ibni Muadh.
Pada tahun ke10 Hijrah, Madinah menjadi sebuah tempat di mana Umat Islam diserang atau menyerang musuh.
Sehingga Baginda berjaya dan membuka kota Makkah tanpa menumpahkan setetes darahpun. Walaupun selepas berdirinya Khufala Al-Rasyidin, Madinah terus menjadi ibu kota kerajaan Islam.
Madinah selepas kewafatan Rasulullah s.a.w.
Kedudukan Madinah, Makkah, dan bandar-bandar lain di Arab Saudi.
Di bawah pemerintahan Khufala Al-Rasyidin, kerajaan islam makin berkembang.
Tentara Islam makin berjaya dengan menaklukan kota-kota penting seperti Damsyik, Baitulmuqqadis, Iskandariyah, dan Baghdad. Setelah kematian khalifah ke-4 Khufala Al-Rasyidin yaitu Saidina Ali Bin Thalib, Muawwiyah yang saat itu gubernur Damsyik mengubah pusat pemerintahan kerajaan Islam ke Damsyik. Beliau juga menggagaskan Kerajaan Ummaiyah .� Kota Madinah kemudian hanya menjadi pusat keagamaan saja.
�
Pada tahun 1944, Madinah yang berada di kekuasaan Uthamaniyyah jatuh� ke tangan Ibnu Saud yang kemudian menjadi Raja Arab Saudi.