Abraham Lincoln Lisesi'nden mezun olmasının ardından, henüz 16 yaşındayken orduya katılan Keitel, Mavi Yarasa operasyonuna katılmak üzere Lübnan'a gitti. Operasyonun sona ermesinin ardından A.B.D.'ye geri dönen Keitel, bir süre mahkeme muhabiri olarak çalıştı; bu iş aktörlük kariyerine başlayana kadar geçimini sağlayacaktı.
İlk olarak HB Studio'da yayınlanan Broadway şovlarına rol alarak oyunculuk kariyerine başlayan Keitel, bu zaman zarfında ünlü yönetmen Martin Scorseseile tanıştı. Scorsese o yıllarda henüz öğrenciydi, Keitel ile beraber üniversite mezuniyet projesi olan Who's That Knocking at My Door adlı filmi çektiler. Bu yapımın başarısı Scorsese ile Keitel'in yıllar boyu sürecek olan ve aralarındaMean Streets ile Taxi Driver'ın da bulunduğu pek çok başarılı yapımda beraber çalışmaları ile sonuçlanacak olan bir arkadaşlık başlattı.
1980'li yıllar boyunca çok fazla başarılı yapımda rol alamasa da, beyaz perdede pek çok yapımda rol alan başarılı oyuncu, özellikle sert, tehlikeli adam rolleriyle tanındı. Harvey Keitel'in kariyerinin dönüm noktası ise, 1992 yılında rol aldığıQuentin Tarantino yapıtı Reservoir Dogs oldu. Bu filmde canlandırdığı Mr. White (Bay Beyaz) karakteri, oyuncunun yan rollerden Holywood yıldızı olmaya doğru attığı ilk adım oldu. Aynı yıl rol aldığı Bugsy adlı filmle beraber Oscar veAltın Küre'ye aday gösterilen başarılı oyuncu, 90'lı yılların ilk yarısında Bad Lieutenant, The Piano, Pulp Fiction ve From Dusk Till Down gibi başarılı yapımlarda rol alarak kariyerinin altın çağını yaşadı.
Little Nicky adlı komedi filminde oynadığı Şeytan rolü ile komediye de göz kırpan Keitel, 2000'li yıllarla beraber eski popüleritesini korumayı başaramadıysa da, yılda en az iki filmde rol alarak yüzüni hayranlarına unutturmamayı başardı. Bu dönemde rol aldığı en önemli yapımlar ise, 2004 tarihli National Treasure,2005 tarihli Be Cool ve 2007 tarihli National Treasure: Book of Secrets oldu.
40 yıla yayılmış kariyerinde 50'nin üzerinde sinema filminde rol almış olan ve Holywood'un en tanınmış yüzlerinden birisi olan Keitel, sürekli aynı yönetmenlerle çalışarak kendisine ait bir oyunculuk stili oluşturdu. Keitel'in kariyeri boyunca en uzun süre beraber çalıştığı yönetmenler ise Martin Scorsese, Paul Auster,Quentin Tarantino ve Ridley Scott'tu.
2001 yılından bu yana kendisi gibi oyuncu olan Daphna Kastner ile evli olan Keitel, üç çocuk babasıdır.
