1961 yılında Elazığ’da doğdu. İlk ve ortaokulu Elazığ’da , İHL ise Diyarbakır’da okudu. Fırat Üniversitesi Mühendislik Fakültesi Makine Mühendisliği bölümünden 1983 yılında mezun oldu. Elazığ ve İstanbul Yem Fabrikalarında İşletme Mühendisi olarak çalıştıktan sonra Yem Sanayi Genel Müdürlüğü Atölyeler Müdürlüğü görevine atandı. 1991-1994 tarihleri arasında TBMM’de danışman, akabinde Ankara Büyükşehir Belediyesi EGO Genel Müdürlüğü’nde sırasıyla Doğalgaz Daire Başkanı, Genel Müdür Yardımcısı ve Genel Müdür olarak görev yaptı. EGO Spor Kulüp Başkanlığı, Teknik Elemanlar Derneği Genel Başkanlığı görevlerini yürüttü. Bununla birlikte birçok vakıf, STK ve siyasi partilerde üst düzey görevlerde bulundu. Türkiye Belediler Birliği Encümen Üyeliği ve TBBB Yönetim Kurulu Üyelikleri devam etmektedir. 2014 Mart ayında yapılan yerel seçimlerinde Elazığ Belediye Başkanı seçilen ve şehrin altyapı, ulaşım, sosyal belediyecilik ve kültürel alanlarda birçok projeyi hayata geçiren Mücahit Yanılmaz, 27 Kasım 2018 tarihinde Genel Merkez Yerel Yönetimler Başkan Yardımcılığı görevine getirildi.