Bihari dzsentricsaládból származott. A budapesti Pázmány Péter Tudományegyetem jogi karán szerzett diplomát. Az első világháborúban súlyosan megsebesült, ezután felmentették a katonai szolgálat alól, s a Magyar Figyelő, valamint Déli Hírlap munkatársa lett.

1916-ban jelent meg Katonatemetés című verseskötete, amely arról tanúskodott, hogy - Hegedűs Géza szavai szerint - "pompás formaérzéke volt minden költői ihlet és eredetiség nélkül".

Zilahy maga is belátta, hogy nem lírai alkat, ettől kezdve jórészt újságcikkeket és novellákat publikált. 1917-ben kifejezetten Rózsahegyi Kálmánnak szánva megírta első egyfelvonásosát, a Rózsikát. 1923-ig az Apolló kabaré házi szerzőjeként írt egyfelvonásosokat, tréfákat és sanzonszövegeket, paraszti környezetben játszódó, vásott hangú komédiákat (Az ökör, Birtokpolitika, Szép Salamon Sári).

A Tanácsköztársaság elején rövid ideig vöröskatona is volt, majd Bécsben telepedett le. Hazatérése után színdarabjait a Nemzeti Színházban és a Vígszínházban is sikerrel játszották. 1922-ben látott napvilágot első, finoman erotikus és líraian érzelmes szerelmi regénye, a Halálos tavasz, amely átütő sikert aratott. A két háború között írt műveinek (Két fogoly, Szibéria, Szökevény) egyik alapélménye az első világháború okozta társadalmi, erkölcsi válság volt, más műveiben a középosztály sorsáért érzett aggódás szólalt meg (A fehér szarvas, A fegyverek visszanéznek).

Közben továbbra is írt újságcikkeket, s aktív közéleti szerepet is vállalt. Új Szellemi Front nevű kezdeményezésével a Horthy-rendszer hivatalos politikája és a baloldali értelmiség között próbált közvetíteni, sikertelenül, s Kitűnőek Iskolája néven alapítványt létesített tehetséges fiatalok számára.

A magyar film felvirágoztatására Pegazus néven saját filmvállalatot alapított, amelynek első munkája a Halálos tavasz volt, Karády Katalinnal és Jávor Pállal a főszerepben. A mű kasszasikere három további regénye (Hazajáró lélek, A szűz és a gödölye, Valamit visz a víz) megfilmesítését is lehetővé tette. 1930-ban írásaiért, tevékenységéért megkapta a Horthy-rendszer egyik legrangosabb elismerését, a Corvin-koszorút.

A II. világháború kitörése után Zilahy egyre jobban szembehelyezkedett a Horthy-rezsimmel és a fasizmussal.

A háború után a Magyar Tudományos Akadémia tagjává választották. 1947-ben hivatalos útra az Egyesült Államokba utazott, ahonnan már nem tért vissza, de az emigrációt keservesen viselte, mindig hazavágyott. A hatvanas évek elején házat vásárolt az akkori Jugoszláviában, Újvidéken, s gyakorta elment a határig, hogy átnézhessen Magyarországra. 1973-ban végre hazalátogatott, s feleségével, Bárczy Piroskával be is adta hazatelepedési kérelmét.

Erre már nem kerülhetett sor, 1974. december 1-jén Újvidéken meghalt. Végakarata szerint hamvait Budapesten, a Farkasréti temetőben helyezték el.