Babos Gyula 1949. június 26-án született Budapesten. 15 éves korától gitározott, 1966-ban a Magyar Rádió jazzversenyén első helyezést ért el. 1970-től a Kex együttesben, majd a Rákfogóban, később Kőszegi Imre zenekarában játszott. 1979-ben megalapította első saját együttesét Saturnus néven, majd 1985-ben létrehozta a Babos Triót.
1989-ben jelent meg első szólólemeze Kinn és benn címmel, majd ezt követte a Sham című lemez. 1994-ben a Sonynál jelent meg a világszerte kiadott Blue Victory című album. Ugyancsak a Sony adta ki 1998-ban az Egyszer volt… című lemezét. 1998-tól a Take Four nevű együttesével három lemezt készített, majd 2001-ben Herbie Mann-nel készített felvételt. 2004-ben megjelent a Trilok Gurtuval közös koncertlemeze. A Babos Project Speciallal Variáció címmel készített lemezt.
1977 óta a Bartók Béla Zeneművészeti Szakközépiskola, a Liszt Ferenc Zeneművészeti Egyetem Jazz Tanszékének tanára volt. Alapító tanárként 1996-tól működött közre a Kőbányai Zenei Stúdió könnyűzenei szakközépiskola életében. Több mint fél évszázados pályafutása során számtalan kiválósággal zenélt együtt: a magyar jazz- és rockélet szinte teljes élvonala mellett olyan külföldi zenészóriásokkal alkotott maradandót, mint Victor Bailey, Terry Lynn Carrington vagy Frank Zappa.
Alapító tagja és tisztségviselője volt a Magyar Zeneművészek és Táncművészek Szakszervezetének és az Előadóművészi Jogvédő Iroda Egyesületnek. 2005-ben a Magyar Köztársasági Érdemrend tisztikeresztjével, 2008-ban Liszt Ferenc-díjjal tüntették ki.
Babos Gyulát a Liszt Ferenc Zeneművészeti Egyetem Jazz Tanszéke, az Előadóművészi Jogvédő Iroda Egyesület, a Magyar Zeneművészek és Táncművészek Szakszervezete és annak Kőbányai Zenei Stúdiója saját halottjának tekinti.