Irak yönetimine karşı mücadelede aktif bir rol oynayan Talabani, 1961 yılında Abdülkerim Kasım Hükümeti'ne karşı Kürt ayaklanmasına katılmıştı. 1963 yılında Kasım'ın devrilmesinden sonra Abdülselim Arif'in kurduğu hükümette Kürt delegasyonuna başkanlık etti.

1975 yılında Kürdistan Demokratik Partisi'nin lideri Mustafa Barzani ile aralarında görüş ayrılıkları çıkması sebebiyle partiden ayrılanların kurduğu ve 1966 yılında merkezi hükümet ile anlaşıp partiye askeri bir darbe düzenlemiş olan, İbrahim Ahmet'in önderliğindeki Kürdistan Demokratik Partisi Siyasi Bürosu'na katıldı.

Celal Talabani, 1975 yılında Kürdistan Yurtseverler Birliği'ni kurmasının ardından hükümete karşı silahlı eylemlere başladı. 1988 yılında Irak hükümeti ile olan çatışmalarda, hükümetin kimyasal silah kullanması ile ağır bir yenilgi aldı. Bu yenilgiden sonra Irak'ı terkederek İran'a sığındı.

1991 yılında Körfez Savaşı dolayısıyla Celal Talabani ile Kürdistan Demokratik Partisi'nin lideri Mesut Barzani arasında mücadeleler arttı. Kuzey Irak'da batılı güçlerin araya girmesi ile iki parti arasında ateşkes ilan edilmiş ve 1992 yılında yapılan seçimlerle koalisyona gidilmişti. Ancak Kürdistan Demokratik Partisi ve Kürdistan Yurtseverler Birliği arasındaki anlaşmazlık 1994 yılında tekrar ortaya çıktı. İki parti arasındaki anlaşmazlık silahlı çatışmalara ve iç savaşa neden oldu. Barzani ve Talabani, Kuzey Irak için iki lider konumundalardı. 22 Ağustos 1996'da Kürdistan Yurtseverler Birliği'nin İran ile anlaşması tehlikesine karşı Mesut Barzani, Bağdat rejimi ile yakınlaştı. Aynı yıl 31 Ağustos'da iki partinin ortak yönetim merkezi olan Erbil'e giren Irak birlikleri şehri Barzani'ye teslim ettiler. İngiltere ve Amerika'nın araya girmesiyle Washington'da yapılan görüşmeler sonucunda Talabani ile Barzani arasında ateşkes ilan edildi. Bu anlaşma 4 Ekim 2002'de tekarlandı. Irak parlamentosu Talabani ile Kürtler arasında çatışmaların yasaklanmasını öngören bir yasa çıkarılmasını önerdi.

Amerika Birleşik Devletleri'nin Bağdat'a girip Saddam Hüseyin'i devirmesinden sonra Celal Talabani, Irak Geçici Hükümet Konseyi Üyesi seçildi. Saddam Hüseyin rejiminin devrilmesi Talabani'nin siyasi hayatı için bir dönüm noktasıydı. 2003 yılında Amerika'nın Bağdat'ı işgalinden kısa bir süre önce Talabani ile Barzani arasındaki anlaşmazlık bir yana bırakılarak ittifak oluşturuldu. 15 Nisan 2003'te Irak tümüyle koalisyon güçlerinin eline geçti.

Celal Talabani, 22 Nisan 2006'da Irak'da yeni anayasa altında yapılan ilk seçimlerde Irak Devlet Başkanı seçildi. Seçimlerde Kürt listesinin başında yer alan Talabani, evli ve iki çocuk babası.