Hakan Yılmaz, 6 Aralık 1969 tarihinde Rize'de doğmuştur. Daha ilkokul sıralarındayken piyeslerde oynamaya başladı. Lise yıllarında dans dersleri aldı ve daha sonra da 3 yıl dans dersleri verdi. Konservatuara girmek istedi ancak kazanamadı. Amatör tiyatro grupları ile okullarda çocuk oyunlarında oynadı.
1988 yılında 18 yaşındayken TRT'deki Pazar 88 ile ilk kez ekrana çıktı
Askerlik görevi sırasında 15 ay fotoğrafçılık ve animasyon ekibinde görev alıp gösteriler yaptı. Askerlik bitince de Antalya'ya yerleşti ve orada çizgi tiyatrosunda 2 yıl oynadı. Televizyonda Çizgi Show adlı programda yer aldı.
İstanbul'a taşındı, tiyatrocu Teyfik Gelenbe'nin tiyatro kursuna katıldı. Bir ara İstanbul'da grafikerlik de yaptı. 1994 yılında Boran Kaya'nın sunduğu İner misin? Çıkar mısın? adlı yarışma programına katıldı. O yarışmadan; Hakan Yılmaz, Şafak Sezer, Yavuz Seçkin, İsmail Baki Tuncer ünlü olmuştur.
1995 yılında Televizyon Çocuğu adlı show programında oyunculuk yaptı, reklam filmlerinde oynadı. 1998 yılında "Büyük Küçük Demeden" adlı çocuk yarışma programını sundu.
2004–2005 sezonunda Sevgili Karım adlı tiyatro oyunu ile İstanbul ve Anadolu'da 75 oyun oynadı. 2007-2009 yılları arasında "Avrupa Yakası" adlı dizide Osman Koçarslanlı karakterini canlandırdı. Daha sonra ise 2010-2012 yılları arasında Yahşi Cazibe adlı dizide Kemal Kükreyen karakterini oynadı.
Hakan Yılmaz, Bengü Yılmaz ile 1997 yılından beri evliydi. 2009 yılı sonunda boşanmak için mahkemeye müracaat etti ve 21 Mayıs 2011 tarihinde boşandı. Deniz adında bir kızı vardır.
Hakan Yılmaz, 15 Haziran 2013 yılında ikinci eşi Elif Öngel ile evlendi. Ağustos 2014 tarihinde bir kızı daha olacak.