Kuburan Al-Baqi terletak di sebelah tenggara Masjid Nabawi. Telah dimakamkan di sana para istri dan bibi Rasulullah shallallahu alaihi wasallam, anak beliau Ibrahim, dan beberapa orang sahabat radiyallahu anhum. Kebanyakan warga Madinah dan peziarah merindu untuk disalatkan di Masjid Nabawi kemudian dikuburkan di Al-Baqi ketika wafat. Selain karena banyaknya yang menyalatkan juga karena adanya anggapan bahwa penghuni Al-Baqi adalah yang pertama kali dibangkitkan di hari kiamat sebelum penghuni kubur lainnya.
Al-Baqi dibuka untuk umum yang hendak menziarahinya hanya pada dua waktu, yaitu pagi hari di waktu duha dan sore hari setelah salat Asar. Selain kedua waktu itu tertutup dan dibuka bagi yang menguburkan mayat saja. Hanya laki-laki saja yang diperkenankan masuk pekuburan, sedangkan para wanita dipersilakan untuk menunggu dan mendoakan dari luar.
Di Al-Baqi, semua kuburan memiliki bentuk yang sama, berbentuk gundukan dan batu penanda sebagai nisan tanpa nama. Hanya kerabat saja yang mengetahui di mana kubur sanaknya berada. Dahulu pernah ada penanda pada kubur para istri Rasulullah dan beberapa sahabat, berupa bangunan yang memayungi dan nisan bernama. Tetapi para pelaku kesyirikan menjadikannya kuburan keramat dan tempat mengalap berkah. Kemudian semua bangunan diratakan dan tanda nama dihilangkan oleh pemerintah kerajaan Saudi, dalam rangka memenuhi wasiat Rasulullah terhadap kuburan.
Berziarah kubur adalah sunah yang tidak hanya ditujukan pada Al-Baqi tetapi juga kepada pekuburan lainnya, yaitu dalam rangka mengingat mati dan orang yang telah mati, mengingat tempat kembalinya bisa surga atau neraka. Disunahkan pula ketika mendatangi pekuburan muslim untuk mendoakan keselamatan dan memintakan ampun kepada Allah bagi penghuni kuburan. Bukan untuk berwasilah apalagi mengalap berkah.