Fokvárosi búr családban született, a helyi egyetemen hallgatott nyelvészetet és matematikát. Az apartheid rendszer iránti gyűlölete, a besorozástól való félelme, a provincializmus fojtogató szorításából való szabadulási vágya miatt 1962-ben Angliába utazott.

Előbb Londonban volt számítógép-programozó, majd Berkshire-ben egy számítástechnikai cég alkalmazottja lett. Munkája során titkos hadiipari fejlesztésekbe is bepillanthatott, s mivel eredendően pacifista volt, egy év után felmondott. A munka mellett folyamatosan írt, leginkább verseket, melyeket később ő sem értékelt valami sokra.

1965-ben Fulbright ösztöndíjjal az Egyesült Államokba utazott, s a texasi egyetemen folytatott tanulmányokat. 1969-ben megkapta az irodalomtudományok doktora címet, disszertációját Beckettről írta. Ezt követően a buffalói egyetemen lett tanársegéd, s ezzel egy időben elkezdett prózai műveket is írni. Igen aktív közéleti szerepet is vállalt, felemelte szavát a vietnami háború, az Egyesült Államok gyarmatosító törekvései ellen, a háborúellenes tüntetéseken való részvételért többször le is tartóztatták.

1971-ben visszatért hazájába, a fokvárosi egyetem tanára lett. Első regénye, a Sötétség 1974-ben jelent meg, ezt követte 1977-ben Az ország mélyén című naplóregény, mely egy elmebeteg nő belső világát ábrázolja.

A mű elnyerte a legrangosabb dél-afrikai irodalmi elismerést, a CNA Irodalmi Díjat. Az igazi nagy sikert az 1980-as Barbárokra várva jelentette számára: az erőteljes és nyomasztó regény több elismerést is kapott, többek között Geoffry Faber-díjat, James Tait-emlékdíjat, s ismét elnyerte a CNA Irodalmi Díjat. Bár már e művének világa is kafkai hangulatú, még inkább az az 1983-as Michael K. élete és kora, amely elnyerte a legrangosabb brit irodalmi elismerést, a Booker díjat.

1983-ban Coetzee az irodalomtudományok professzora lett a fokvárosi egyetemen, ettől kezdve "utazó" professzorként is működött. 1999-ben jelent meg Szégyen című regénye, melyben az apartheid rendszer megszűnésének hatását elemzi egy elbocsátott irodalomprofesszor sorsán keresztül. A sötét hangvételű mű többek között elnyerte a Booker díjat is, s így ő az egyetlen szerző, aki kétszer is megkapta az elismerést. Számos irodalomkritikai írást is publikált, s több esszégyűjteménye is megjelent. 2001 végén élettársával, Dorothy Driverrel Ausztráliába, Adelaide-ba települt át.

2003-ban a Svéd Akadémia neki ítélte az irodalmi Nobel-díjat, egyebek között azzal indokolva a döntést, hogy Coetzee regényeit "jól felépített szerkezet, gazdag párbeszédek és briliáns elemzések jellemzik".

A zárkózott és nem szívesen nyilatkozó író talán legtöbbet kétkötetes életrajzi művében árult el magánéletéről. Ebből megtudhatjuk, hogy első házasságából egy fia és egy lánya született, de fia 23 éves korában baleset áldozata lett, s nem sokkal később rákban meghalt Coetzee volt felesége is.