Türbe'de Osmanlı İmparatorluğu'nun kurucusu ve ilk padişahı Osman Gazi'nin büyükbabası ve Ertuğrul Gazi'nin babası Süleyman Şah'ın ve iki askerinin naaşları bulunmaktaydı.
Büyük Selçuklu Devleti Sultanı Alp Arslan'ın Malazgirt Zaferi'nden sonra yeni vatan edinmek maksadıyla batıya yönelen Oğuz boyları arasında Süleyman Şah önderliğindeki Kayı Boyu da bulunmaktaydı. Süleyman Şah, yeni yurt aramak üzere çıktığı bu yolculukta Halep yakınlarındaki Caber Kalesi'ne gelir ve Fırat Nehri boylarına yerleşir.
Buradan tekrar yeni yurt aramak üzere yola çıkar, ancak 1227yılında Fırat Nehri'nin karşı kıyısına geçmeye çalışırken muhafızları ile birlikte Fırat sularında boğulur. Süleyman Şah'ın naaşı ve iki askeri Caber Kalesi eteklerine bir kümbete defnedilir.
Osmanlı İmparatorluğu döneminde imparatorluk sınırları içerisinde olan mezarın bulunduğu yere bir türbe yapılarak buraya "Türk Mezarı" adı verildi. Türbe ve Caber Kalesi, Osmanlı İmparatorluğu yıkılınca Fransız Suriye Mandası sınırları içerisinde kaldı.
20 Ekim 1921 tarihinde Türkiye ile Fransa hükûmetleri arasında imzalanan Ankara Antlaşması'nın 9. maddesi ve 24 Temmuz 1923Lozan Antlaşması'nın 3. maddesi gereğince Caber Kalesi ve türbe müştemilâtı ile berâber Türkiye Cumhuriyeti toprağı olarak kabul edilmiş ve Türkiye'ye burada muhâfız bulundurma ve bayrağını çekme hakkı tanındı.
Ankara Hükümeti ile Fransa'nın 20 Ekim 1921'de imzaladıkları ve Caber Kalesi ile türbenin Türk toprağı olmasını öngören Ankara Anlaşması'nın görüşmeleri devam ederken son Halife II. Abdülmecid, TBMM'ne gönderdiği bir mektupta kendisinin ve Osmanlı Hanedanı'nın "atası" olan Süleyman Şah'ın mezarı konusunda Meclis'in gösterdiği alakaya teşekkür etti.
