Párizs egyik peremvárosi negyedében született 1909-ben. Egy ideig úgy tűnt, asztalos apja nyomdokaiba lép, de ő többre vágyott: rövid tisztviselői kitérő után fényképész, majd filmtechnikus, végül Jacques Feyder rendező asszisztense lett.

A megtakarított pénzéből vett kamerával néma dokumentumfilmet forgatott egy munkás békés vasárnapi délutánjáról, amely a közönséget nem vonzotta ugyan különösebben, de a kritika figyelmét felkeltette. 1929-ben pályázat útján a Cinémagazin szaklap kritikusa lett, miközben reklámfilmeket forgatott, segítette René Clair A párizsi háztetők alatt című klasszikus alkotásának munkálatait.

Első nagyjátékfilmjét 1936-ban Feyder közbenjárására forgathatta, a krimi-melodráma főszerepére mentora feleségét választotta ki. A film persze nem ezért fontos: Carné ekkor dolgozott először együtt a forgatókönyvet jegyző Jacques Prévert költővel, akivel - és az időközben "csatlakozott" magyar születésű Joseph Kozma zeneszerzővel, valamint Trautner Sándor díszlettervezővel - a következő évtizedben filmtörténeti jelentőségű munkáit készítette.

Carné a "költői realizmus" mestereként olyan remekművekkel írta be magát a filmtörténetbe, mint a szerelemről szóló Külvárosi szálloda (Hotel du Nord), a Ködös utak című filmdráma és a Mire megvirrad című krimi, az illúziók elvesztésének filmje. Kedvenc helyszíne a külváros, a munkásnegyedek és az ócska hotelek világa maradt, a lét peremén élő őszinte, egyszerű kisemberek sorsán keresztül a lélek borús tájait mutatta be.

A II. világháború, a német megszállás alatt is Párizsban maradt, és dolgozott, ekkor készült legismertebb és talán legjobb filmje, a Szerelmek városa. A kétrészes költői alkotást, amely egy pantomimművész szerelmét meséli el a már nem létező, ragyogó Párizsban, 1990-ben minden idők legjobb francia filmalkotásának választották meg. A háború utáni első filmjében, Az éjszaka kapuiban csendült fel először Kosma és Prévert Hulló falevelek című sanzonja. Alkotását azonban még ez sem mentette meg a kudarctól, a kritika szemére hányta bonyolult jelképeit, szentimentalizmusát, stílusát és szemléletét idejét múltnak minősítették.

Az "új hullám" elsodorta a rendezőt, hiába kísérletezett annak eszköztárával. Idővel a perifériára sodródott, 1974-es utolsó filmjét már szinte bojkottálta a közönség. Carné tíz évi hallgatás után, 85 évesen még megpróbálta filmre vinni Maupassant egyik novelláját, de szponzorok hiányában kénytelen volt lemondani tervéről.

Ettől függetlenül élete végén már záporoztak rá az elismerések: 1995-ben életművéért megkapta az Európai Filmakadémia Félix-díját, egy év múlva a Becsületrend legmagasabb, főtiszti fokozatával tüntették ki, s még életében teret neveztek el róla. Marcel Carné 1996. október 31-én halt meg.