Ali Akyıldız, 1 Haziran 1964 yılında Sivas Divriği'nde doğdu. Atatürk Üniversitesi Ziraat Fakültesi Ziraat Mühendisliği Bölümü'nden mezun oldu. Tarım Kredi Kooperatifleri Sivas Bölge Birliği bünyesinde farklı ilçelerde ve farklı kademelerde 25 yıl görev yaptıktan sonra 2013 yılında emekli oldu. Memuriyet görevinin yanı sıra uzun süre Profesyonel/Amatör Futbol Hakemliği, Futbol Hakem Gözlemciliği ve Voleybol Hakemliği yaptı. 25. ve 26. Dönem CHP Sivas Milletvekili 2010 tarihinden itibaren seçimlerde aday olduğu güne kadar Cem Vakfı Sivas Şubesi Başkanlığı yaptı. Ali Akyıldız, evli ve 1 kız babasıdır.