Apja falusi szatócs, majd kishivatalnok volt. Gyermekkorát vidéken töltötte, a budapesti egyetemen együtt látogatta Babitscsal, Kosztolányival és Juhász Gyulával Négyessy László híres szemináriumait. Tanulmányait félbehagyva újságírónak állt, a Voltaire-t mesterének tartó Gábor a racionalizmus talajáról támadta a Ferenc József-i kor ostobaságait.
    
Népies hangvételű verseiben a városi nincstelenek sorsával, társadalmi kérdésekkel foglalkozott, jelenetei, Szirmai Albert zenéjére írott sanzonjai rendszeresen szerepeltek a kabarészínpadokon. Első felesége, Kökény Ilona is a Nagy Endre-féle kabaréban tűnt fel, a második Vidor Ferike színésznő volt, aki Gábor cselédnótáival aratott nagy sikereket, harmadik felesége Halpern Olga műfordító volt. 
    
Sikeres vígjátékokat is írt, a Palikát 1915-ben, a Dollárpapát 1917-ben, a Majd a Vicát 1918-ban mutatták be, ő írta a Csárdáskirálynő és a Mágnás Miska dalszövegeit. Doktor Senki című, 1918-ban megjelent regénye a századelő jellegzetes karrierregénye.
    
1919-ben a Közoktatási Népbiztosság színházi és sajtóügyi előadója lett. A kommün bukása után néhány hétre börtönbe került, ahonnan Vidor Ferike révén szabadult, majd Bécsbe menekült. Itt a Bécsi Magyar Újság munkatársa és a Proletár című kommunista folyóirat szerkesztője volt. Írásaiban és politikai verseiben támadta a fehérterrort, a Horthy-rendszert és a kormányzó személyét. 1925-ben Horthyék nyomására kiutasították, ezután Berlinben a Vörös Segély sajtóiroda és a Rote Fahne című lap munkatársa, a Pravda tudósítója, a német proletárírók lapjának szerkesztőbizottsági tagja lett.
    
A nácizmus hatalomra jutása után, 1933-ban Moszkvába költözött. Eleinte itt is németül írt, Vacsora a Hotel Germániában című, 1936-os elbeszélése igen korán felhívta a figyelmet a nácik világhatalmi terveire, s eszközeik gátlástalanságára. 1938-tól publikált magyarul, ekkor lett az emigránsok lapja, az Új Hang munkatársa, majd szerkesztője. A lapban és a moszkvai Kossuth Rádióban is erős szatírával támadta a hazai háborús politikát, a nemzetvesztő vezetést.
    
1945-ben hazatért, az ideiglenes nemzetgyűlés tagja, majd a Szabad Nép munkatársa, később a Ludas Matyi című vicclap alapító-főszerkesztője és névadója lett. Élete végén kiábrándult a Rákosi-Révai felé kulturális politikából - ők sem szerették Gábort - és belső emigrációba vonult. 1953. január 21-én hunyt el Budapesten, a Kossuth-díjat halála évében, posztumusz kapta meg.
    
Válogatott verseit Erélyes elégia címmel 1967-ben, elbeszéléseinek gyűjteményét 1974-ben adták ki, a Dollárpapából 1956-ban Gertler Viktor rendezett filmet. Emlékére özvegye 1958-ban Gábor Andor-díjat alapított a fiatal írók elismerésére. Költői nyelve mellett nyomtalanul ment el a nyugatosok forradalma, stílusa egy korábbi korszak formáit őrzi, számára mindig a politikai mondanivaló volt elsődleges.