1954 yılında Muş’ta doğdu.

Muş Lisesini bitirdi. 1980 yılında İstanbul Üniversitesi İstanbul Tıp Fakültesi’nden mezun olduktan sonra Muş’ta çeşitli kurumlarda hekim olarak çalıştı.

2002 yılında AK Partiden Muş milletvekili olarak seçildi.

2011 yılına kadar iki dönem parlamentoda görev yaptı.

Sağlık, Aile ve Sosyal İşler Komisyonu ve KİT Komisyonu üyeliklerinde bulundu. Hâlen özel bir sağlık kuruluşunda yönetici olarak görev yapan Medeni Yılmaz, temel düzeyde İngilizce biliyor, evli ve bir çoçuk babasıdır.