25 Şubat 1907 tarihinde, bugün Bulgaristan sınırları içindeki Gümülcine kazası Eğridere köyünde doğdu. Babası, bir piyade yüzbaşısıydı bu yüzden görev yeri sık sık değişiyordu ve Ali, çocukluk yıllarında İstanbul, Çanakkale, Edremit gibi çeşitli şehirlerde yaşadı ve çeşitli okullarda okudu. İlköğrenimini Üsküdar, Çanakkale ve Edremit'te yaptı (1921). Balıkesir Muallim Mektebi'ni bitirdi (1927). Aynı yıl Yozgat Cumhuriyet İlkolulu'na öğretmen oldu.
Maarif Vekaleti'nin açtığı sınavı kazanarak Almanya'ya eğitime gitti. Postdam ve Berlin'de öğrenim gördü. Yurda dönüşünde Aydın'daki bir ortaokulda Almanca öğretmenliğine atandı. 1932 yılında Konya'da bulunduğu sırada, bir arkadaş toplantısında Atatürk'ü yeren bir şiir okuduğu iddiasıyla tutuklandı. Bir yıla mahkûm olarak Konya ve Sinop cezaevlerinde yattı, 1933 yılında Cumhuriyetin onuncu yıl dönümü dolayısıyla çıkarılan af yasasıyla özgürlüğüne kavuştu.
Cezaevinden çıktıktan sonra Ankara'ya gitti ve Millî Eğitim Bakanlığı'na başvurarak yeniden göreve alınmasını istedi. Dönemin bakanı Hikmet Bayur'un "eski düşüncelerinden vazgeçtiğini ispat etmesini" istemesi üzerine 15 Ocak 1934 tarihinde Varlık dergisinde "Benim Aşkım" adlı şiirini yayımlayarak Atatürk'e bağlılığını göstermeye çalıştı. Aynı yıl Bakanlık Neşriyat Müdürlüğü'ne alınmış, Ankara II. Ortaokul'da öğretmenlik yapmıştır.
Maarif Vekaleti Talim Terbiye Dairesi'nde, Neşriyat Müdürlüğü'nde çalıştı. Ankara'da Almanca öğretmenliği, Ankara Devlet Konservatuvarı'nda çevirmenlik, öğretmenlik, dramaturgluk yaptı. 1945'te bakanlık emrine alındı. 1946'da işsiz kaldığı dönemde Aziz Nesin'le birlikte "Marko Paşa" dergisini çıkarmaya başladı. Yayın yoluyla hakaret suçlamasıyla 3 ay hapse mahkum edildi.
Yazar, 1937'de "Kuyucaklı Yusuf", 1940'ta "İçimizdeki Şeytan" ve 1943'te "Kürk Mantolu Madonna" olmak üzere 3 roman yazdı. Serbest kalınca bir kamyon alarak taşımacılığa başladı. Sürekli izlenmekten, yargılanmaktan tedirgin olduğu için yurtdışına kaçmaya karar verdi. Kırklareli üzerinden Bulgaristan'a geçmek istedi.
2 Nisan 1948'de yurt dışında çıkmak için anlaştığı, kendisine kılavuzluk yapan Ali Ertekin tarafından, Bulgaristan sınırı yakınlarında Sazara köyü civarındaki ormanda öldürüldüğü iddia edildi. Cesedi öldürülüşünden iki buçuk ay sonra (16 Haziran 1948) bulundu. Mezarının nerede olduğu kesin belli değil.
Eserleri
Şiir
1934: Dağlar ve Rüzgâr
1937: Kurbağanın Serenadı ve Öteki Şiirler'le birlikte
Bestelenen şiirleri
"Hapishane Şarkısı V" (Aldırma Gönül - Kerem Güney, Edip Akbayram)
"Eşkiya Dünyaya" (Zülfü Livaneli)
"Leylim Ley" (Zülfü Livaneli)
"Hapishane Şarkısı I" (Göklerde Kartal Gibiydim / Nazlı Yarim - Deniz Akyürek)
"Hapishane Şarkısı II" (Bir Yürek Kaldı Avucumunda) (Grup Çağrı) [3]
"Hapishane Şarkısı III" (Geçmiyor Günler - Ahmet Kaya)
"Çocuklar Gibi" (Sezen Aksu - Mustafa Kaya)
"Kız Kaçıran" (Ahmet Kaya)
"Kara Yazı" (Ahmet Kaya)
"Melankoli" (Ali Kocatepe, Nükhet Duru)
"Eskisi Gibi" (Ben Yine Sana Vurgunum - Ali Kocatepe, Nükhet Duru)
"Dağlar" (Benim Meskenim Dağlardır - Sadık Gürbüz, Dağlardır Dağlar - Sezen Aksu)
"Göklerde Kartal Gibiydim" - Grup Çağrı, Volkan Konak
"Geçmiyor Günler" - Ahmet Kaya
Öyküleri
Değirmen (1935)
Kağnı (1936)
Hanende Melek (1937)
Ses (1937)
Kağnı - Ses (1943 - İki kitap birlikte)
Yeni Dünya (1943)
Sırça Köşk (1947)
Kamyon
Bütün Öyküleri 1 (Aralık 1997, Değirmen, Kağnı ve Ses kitapları ile birlikte)
Bir Orman Hikayesi
Oyun
Esirler (1936)
Romanları
Kuyucaklı Yusuf (1937)
İçimizdeki Şeytan (1940)
Kürk Mantolu Madonna (1943)
Derlemeler
Markopaşa Yazıları ve Ötekiler (1998)
Çakıcı'nın İlk kurşunu (2002)
Mahkemelerde (2004)
Hep Genç Kalacağım (2008)
Canım Aliye, Ruhum Filiz (2013)
Çevirileri
Tarihte Garip Vakalar, Max Memmerich (1941)
Antigone, Sofokles (1942)
Minna Von Barnhelm, Lessing (1943)
Üç Romantik Hikaye, H. Von Kleist - A.V. Chamisso - E.T.A. Hoffmann (1944)
Fontamara, Ignazio Silone (1944)
Gyges Ve Yüzüğü, Fr. Hebbel (1944)
Yüzbaşının Kızı, A.S. Puşkin (1944) (Erol Güney ile birlikte)