Ősei a reformáció koráig visszamenően evangélikus lelkészek voltak, szülei őt is annak szánták. Az érettségi után - noha előbb tornász, majd lélekbúvár akart lenni - a soproni teológiára küldték tanulni. Előtte egy magtermelő szövetkezetben dolgozott, itt szerzett tapasztalataiból született meg 1931-ben első regénye, a parasztság mindennapi küzdelmeit ábrázoló Az eke.

A teológián - noha érdekelték az előadások és alapjában véve jól érezte magát - nem igazán találta helyét, s hitét sem érezte elég erősnek a lelkészi hivatáshoz. Három év után hátat fordított az intézménynek, s európai vándorútra indult: Bécs, München, Barcelona voltak útjának állomásai, volt mosogató, grafológus és teherszállító.

Hazatérve a pécsi bölcsészkarra iratkozott be, s mivel már több novellája is megjelent, lassan megérett benne az elhatározás, hogy író lesz.

Pestre költözött, könyvekkel ügynökölt, matematika órákat adott, kapcsolatba került a népi írók körével, Szabó Pállal, Féja Gézával, Sinka Istvánnal, Veres Péterrel, egy időre a Kelet Népe szerkesztését is elvállalta. Közben súlyosan megbetegedett, egyik veséjét eltávolították. Felépülése után könyv- és papírkereskedést nyitott, és megjelentette Zápor című regényét. A II. világháború idején a katonaságtól a neves rendező, Szőts István mentette meg, aki maga mellé vette forgatókönyvírónak. Badacsonyban forgattak, s Tatay előbb a tájba, majd a Rodostó turistaház gondnokába szeretett bele, akit 1944 decemberében feleségül is vett.

A háború után nem tért vissza Budapestre, a turistaházban végzett kisebb munkák mellett bőséges ideje maradt az alkotásra. Itt kezdte el A Simeon család regényciklus első kötetét, s itt született meg a Ház a sziklák alatt című novellája is. Ebből 1958-ban Makk Károly rendezett nagy sikerű filmet, amely elnyerte a San Franciscó-i filmfesztivál nagydíját, s beválasztották a Budapesti 12-be is.

Az ötvenes évek közepétől Tatay élete az angyalföldi kis lakás és a badacsonyi ház között telt, a közéleti, irodalmi vitáktól távol tartotta magát. Írásai közül nagy figyelmet kaptak ifjúsági művei, a Puskák és galambok romantikus kamasztörténete, valamint a Kinizsi Pálról szóló regényes életrajza. Felnőtteknek szóló művei közül sikert aratott A Simeon család, amelyet a kritika Galsworthy Forsyte Sagájához hasonlított. Művészete a legteljesebb módon közönségcentrikus, szórakoztatni, elgondolkoztatni akart, az olvasó figyelmét megragadni minden egyes munkájában, s ebben segítségére volt bölcsessége, derűje, az írásait átható szelíd irónia.

Munkásságáért három ízben (1957, 1961, 1979) kapott József Attila-díjat, 1990-ben a Magyar Köztársaság babérkoszorúval ékesített zászlórendjével tüntették ki, majd 1991-ben a Kossuth-díjat is megkapta.

Az 1991. december 2-án elhunyt író egykori angyalföldi lakóházának falán 1996-ban avatták fel emléktábláját.