A mozival már kisgyerekként közeli kapcsolatba került, lévén apja egy filmszínház tulajdonosa volt szülőhelyén, Berettyóújfaluban. Érettségi után apja kapcsolatainak köszönhetően fizetés nélküli gyakornok lett a Hunnia Filmgyárban, s beiratkozott a pesti egyetem esztétika-magyar szakára. A második világháború után jelentkezett a Színház- és Filmművészeti Főiskolára, ahol 1950-ben végzett volna, ha ki nem rúgják.

Egy úttörő témájú filmet kellett ugyanis készítenie, de művéből az illetékesek hiányolták a szocialista realizmus ismertető jegyeit, így a forgatást és a főiskolát is félbe kellett hagynia. Rövid időre a Híradó- és Dokumentum Filmgyárba került, innen azért kellett mennie, mert összeveszett az igazgatóval. Fél évig traktorosként dolgozott, ekkor aztán főiskolai tanára, Nádasdy Kálmán "suba alatt" levizsgáztatta, és megkaphatta a diplomáját.

Rendezői bemutatkozása 1954-ben a Szigligeti Ede vígjátékából készült Liliomfi volt. Még harmincéves sem múlt, s már halhatatlant alkotott, a ma is felhőtlen szórakozást nyújtó Liliomfinak csaknem hétmillió nézője volt. Makk bebizonyította, hogy lehet friss levegőt árasztó komédiát forgatni a szokásos agitpropos ostobaságok nélkül is.

Makk a következő években forgatott sikeres közönségfilmeket (Mese a 12 találatról, Fűre lépni szabad) és feszültséggel teli lélektani drámát is (Ház a sziklák alatt). Irodalmi indíttatású filmrendezőink közé tartozik, azaz többnyire rangos irodalmi alkotásokat visz a vászonra.

A Déry Tibor novellájából 1970-ben forgatott Szerelem a magyar filmművészet kiemelkedő alkotása, amelyben felejthetetlen alakítást nyújtott Darvas Lili, Törőcsik Mari és Darvas Iván. Formanyelvi bravúr volt az Örkény-kisregényből készült Macskajáték, amelyet 1974-ben Oscar-díjra is jelöltek, hangulatos korrajzot adott az Egy erkölcsös éjszaka, Hunyady Sándor elbeszélésének filmváltozata. Az 1982-es, Galgóczy Erzsébet Törvényen kívül és belül című regényéből készült Egymásra nézve a magyar filmtörténetben az elsők között beszélt az 1956 utáni megtorlásokról és az első magyar film volt, amely leszbikus kapcsolatot ábrázolt, egyben toleranciára sarkallt.

Az 1956-os forradalom fiatal mártírjainak állított emléket az 1990-ben forgatott Magyar Rekviem, Dosztojevszkij kisregényéből 1998-ban amerikai-magyar koprodukcióban készült A játékos, 2003-ban készült az Egy hét pesten és Budán. Tavaly mutatták be a korrupcióról, a politika és a bűnözés összefonódásáról készített Így, ahogy vagytok című politikai krimijét.

Makk Károly 1951 óta tanított a Színház- és Filmművészeti Főiskolán, 1975 óta egyetemi tanárként. 1973-ban Kossuth-díjat, 1982-ben kiváló művészi címet kapott. 2004-ben a Magyar Mozgókép Mestere díjjal tüntették ki, ugyanebben az évben lett Budapest díszpolgára. 2005-ben a Magyar Köztársasági Érdemrend a Csillaggal (polgári tagozat) kitüntetést vehette át.