Jómódú református nemesi családból származott. Sárospatakon és Pozsonyban jogi és filozófiai stúdiumokat végzett, majd Pesten ügyvédi oklevelet szerzett, ám gyakorlatot soha nem folytatott. Ehelyett közigazgatási hivatalt vállalt, és 1818-ban Pest vármegye táblabírájává választották. Ettől kezdve felváltva Pesten és gombai birtokán élt, idejét főként gazdálkodással, irodalmi és társadalmi tevékenységgel töltötte.

Fontos feladatának tartotta a folytonos önművelést, házában gyakori vendég volt unokabátyja, Szemere Pál, Kisfaludy Károly, Vitkovics Mihály, Vörösmarty Mihály. Előttük nem volt titok, hogy házigazdájuk maga is írói babérokra vágyik, igaz, első ifjúkori munkái még erősen a német szentimentalizmus hatását mutatták. Első kiadott műve "Bokréta melyel hazájának kedveskedik" címmel jelent meg, s benne dalokat, meséket, epigrammákat adott közre. Írói elismertségét a "Fáy András eredeti meséi és aphorizmái" című mesegyűjteménye hozta meg számára, amelynek darabjaiban az állatmese hagyományaihoz híven egy-egy emberi vagy nemzeti gyarlóságot tett nevetségessé, s megfogalmazta életelveit, tanácsait is.

1823-as Pestre költözését követően bekapcsolódott a politikai és társadalmi életbe, 1825-től kezdve Széchenyi köréhez csatlakozott. Jó érzékkel ismerte fel a magyar társadalom és a gazdaság elmaradottságának okait, s több tanulmányában, később országgyűlési beszédeiben is szorgalmazta a gazdasági, társadalmi reformokat. 1832-ben jelent meg A Bélteky ház című regénye, amely minden gyengesége ellenére is az első magyar társadalmi regényként vonult be a köztudatba. 1831-ben az Akadémia tiszteletbeli tagja lett. 1834-35-ben Döbrentei Gáborral együtt a budai színtársulatot igazgatta, maga is írt néhány színművet.

1835-ben belépett a Nemzeti Kaszinóba, 1836-ban a Kisfaludy Társaságnak is tagja, majd igazgatója lett. Az 1835-36. évi országgyűlésen az ellenzék egyik vezéralakja volt. 1839-ben az ő javaslatára indult az Első Hazai Takarékpénztár megszervezése, amely 1840 januárjában kezdte meg működését. Foglalkozott a nőnevelés kérdéseivel, részt vett a magyar ipar fejlesztésére alakult Védegylet munkájában is.

Közéleti aktivitása az 1848-as forradalom kitörése után lecsökkent, a fontolva haladás híveként irtózott minden radikális eszmétől és megmozdulástól. A szabadságharc idején visszavonult birtokára, s ezután csak irodalommal foglalkozott. Pesten halt meg 1864. július 6-án.

"A nemzet mindenese" volt, ahogy azt Szemere Pál találóan megjegyezte róla. Emlékére alapították a Fáy András-díjat, amelyet a honvédelmi miniszter adományoz évente "a katonai gazdálkodás megvalósításában végzett közgazdasági, pénzügyi-számviteli, vagyongazdálkodási munkaterületeken nyújtott kimagasló tudományos és alkotói tevékenység elismerésére."