Paris Vaugirard School okulunda edebiyat eğitimi aldı. Sinemaya başlamadan önce reklam yönetmenliği yapan ve yüzden fazla reklam filmini yöneten Jean-Jacques Annaud, 1976 yılında Noirs et Blancs en Couleur (Black and White in Colour - 1976) filmini çekerek sinemaya geçmiş oldu. Kamerun'da askeri görevini yaparken yaşadığı olaylardan yola çıkarak yazdığı ve yönettiği bu filmi, Fransa seyircisi tarafından fazla ilgi görmedi ancak o yıl En İyi Yabancı Film dalında Oscar ödülüne aday gösterildi ve ödülü kazandı.1986 yılında Sean Connery ile çalıştığı ve Umberto Eco'nun aynı adlı romanından uyarlanan Der Name der Rose (Gülün adı - 1986) filmini çekti. Uyarlama yapımlar arasında önemli bir yere sahip olan bu filmi, 1989 yılında çektiği L'Ours (Ayı - 1989) takip etti. La Guerre du Feu ile elde ettiği Sınıflandırılamayan Filmlerin Yönetmeni unvanını bu filmi ile perçinleyen Annaud, iki ayı arasındaki sevgi bağını ve insanlara karşı bu bağı korumalarını anlatan filminde belgesel doğallığındaki tarzının zirvesine çıktı.