Mahir Yılmaz, 1955 yılında Kırıkkale'de doğdu. İlköğrenimini Kırşehir'de, ortaöğrenimini Kırıkkale'de tamamladı. 1982'de Gazi Üniversitesi Mimarlık ve Mühendislik Fakültesi Makine Mühendisliği Bölümünden mezun oldu. Yılmaz, bir dönem Kırıkkale Üniversitesi Meslek Yüksek Okulunda öğretim görevlisi olarak çalıştı. 1989 yılında Kırıkkale Belediye Başkanlığı bünyesinde ESO İşletme Müdürü olarak görev yapan Mahir Yılmaz, evli ve İki çocuk babasıdır.