1968 yılında Malatya'nın Yazıhan ilçesine bağlı Karaca köyünde dünyaya geldi. 

İlkokul üçe kadar Karaca İlkokulu'nda, dört ve beşinci sınıfı da Malatya Namık Kemal İlkokulunda okudu. Sümer Ortaokulu'ndan sonra Turan Emeksiz Lisesi'ne başlayan Veli Ağbaba, bu lisenin son mezunlarındandır. 

Yüksek öğrenimini, 1985-1989 yılları arasında Eskişehir Anadolu Üniversitesi İktisadi ve İdari Bilimler Fakültesi İşletme Bölümü'nde tamamladı. Üniversite yıllarında Anadolu Üniversitesi Öğrenci Derneği kurucu ve yöneticiliği yaptı. Aynı yıllarda Eskişehir Halkevi'ne de üye olarak öğrenci gençlik hareketinin içinde yer aldı. 

Askerliğinin ardından 1993 yılında SHP'ye üye oldu. 1994 yılında Malatya Belediye Meclis Üyesi seçildi ve Türkiye'nin en genç Belediye Meclis Grup Başkanı oldu. 1995 yılında CHP İl Saymanlığı, 1998'de CHP İl Eğitim Sekreterliği ve 4 dönem de CHP kurultay delegesi seçildi. 18 Ocak 1999'da CHP İl Başkanlığına seçilen Veli Ağbaba, 3 Kasım 2002 seçimlerinde milletvekili adayı oldu. 

2003-2005 yılları arasında CHP Yüksek Disiplin Kurulu (YDK) üyeliğine seçilirken, 2004'te CHP Seçim Komitesi Başkanlığı, 2007 yılında da CHP Malatya milletvekilliğine aday adayı oldu. 6 Mart 2010 ile 10 Ocak 2011 arasında Malatya İl Başkanlığı yapan Ağbaba, Malatyaspor kongre üyesi, Halkevleri Yönetim Kurulu Üyesi, ADD üyesi ve 1991 yılından beri İnsan Hakları Derneği üyesidir. 2011 Genel Seçimlerinde Malatya Milletvekili seçilen Ağbaba, parlamentoda sırasıyla Bilim, Sanayi ve Teknoloji Komisyonu ve Çevre Komisyonu üyeliği görevlerini yürüttü. 

Halen TBMM İnsan Haklarını İnceleme Komisyonu üyesi olan Ağbaba aynı zamanda Cumhuriyet Halk Partisi Cezaevi İnceleme ve İzleme Komisyonu Sözcülüğü görevini yürütmektedir. 

Evli ve bir kız, bir erkek çocuk babasıdır.