Hatéves koráig Ausztriában nevelkedett. A magyarul egy szót sem tudó gyerek ekkor került Karcagon élő nagyszüleihez, s csak tizenegy éves korára tanulta meg tökéletesen a nyelvet. Érettségi után közölték vele, hogy Ausztriában élő szülei miatt osztályidegennek számít, s nem tanulhat tovább. Disszidálni próbált, a határon azonban elfogták, megverték, majd börtönbe zárták. Szabadulása után krampácsolt a vasútnál, kubikolt egy téglagyárban, volt kórházi irodavezető, végül 1951-ben felvették a Színház- és Filmművészeti Főiskolára.

Szerencsésnek tartotta magát, hogy Várkonyi Zoltántól, Sulyok Máriától, Nádasdi Kálmántól, Háy Gyulától, Bodor Tibortól tanulhatott. Diplomáját 1955-ben vette át, s rögtön a Néphadsereg Színházába - a mai Vígszínházba - szerződött. Több fővárosi színházban is szerepelt, 1964-től tizennyolc évet töltött a József Attila Színházban az intézmény egyik vezető színészeként. 1982-től 1991-es nyugdíjazásáig a Vidám Színpad tagja volt. Jellegzetes színpadi egyénisége vígjátékban és drámában egyaránt érvényesült. A pályán töltött ötvenöt év során több száz színpadi és filmszerepet játszott el, gyakran láthatta a közönség a televízióban is, utoljára az azóta megszűnt Szomszédok című szappanoperában. Ő maga legkedvesebb szerepének Katz tábori lelkészt tartotta a Svejk színpadi változatában.

Egy nyilatkozatában kijelentette: mindent, amit elért, magának köszönhet, nem állt mögötte sem párt, sem szakszervezet, klikkekhez sem tartozott soha. Direktortól szerepet, fizetésemelést sosem kért, egyvalamit azonban igen: minden darabban benne akart lenni.

Horváth Gyula egyszerűen komédiásnak vallotta magát, ez állt a névjegyén és lakása ajtaján is. A Jászai Mari-díjas, érdemes művész élete utolsó éveiben visszavonultan élt, színpadon, filmen egyáltalán nem lehetett találkozni vele, legfeljebb a Filmmúzeum tévécsatorna képernyőjén bukkant fel egy-egy régi szerepben. Beletörődött a sorsába, tudomásul vette, hogy elszakadtak a szálak, a visszatérésben sem bízott. Egy ideig évente kétszer - március 15-én és október 23-án - lépett fel, pártrendezvényeken szavalt. Én a komédiát lejátsztam című kötete 2005-ben jelent meg. Kápolnásnyéken halt meg 2005. október 30-án.