Samsun – 1951, Hamit, Rufiyet.
Makine Mühendisi; İlk, orta ve lise öğrenimini Samsun’da tamamladı. İstanbul Devlet Mimarlık ve Mühendislik Akademisini bitirdi.
1975 yılında Karayolları 7. Bölge Müdürlüğünde şantiye makine mühendisi ve makine işletme mühendisi olarak çalıştı. 1983 yılında Ankara Karayolları 4. Bölge Müdürlüğüne Makine İkmal Başmühendisi olarak atandı. 1987 yılında Karayolları Genel Müdürlüğü İkmal Şube Müdürlüğüne getirildi.1990 yılında Karayolları Van 11. Bölge Müdürü, 1992 yılında Karayolları Samsun 7. Bölge Müdürü, 1998 yılında Karayolları İstanbul 17. Bölge Müdürü olarak atandı. 1999 yılında yapılan yerel seçimlerde Samsun Büyükşehir Belediye Başkanı seçildi. 2004 yerel seçimlerinde ikinci, 2009 yerel seçimlerinde üçüncü, 2014 yerel seçimlerinde de dördüncü kez Samsun Büyükşehir Belediye Başkanlığı görevine seçildi.
27. Dönemde Samsun Milletvekili seçildi. TBMM Çevre Komisyonu Üyesi olarak görev yaptı. AK PARTİ Genel Merkez Yerel Yönetimler Başkanı olarak görevini sürdürmektedir.
Orta düzeyde İngilizce bilen Yılmaz, evlidir.