Ózdon született, a középiskolát Egerben végezte. Érettségi után volt OTP-tisztviselő, majd művészeti előadó. 1961-től az ELTE magyar-népművelés szakán tanult, közben 1963-64-ben a Borsodnádasdi Lemezgyár hengerműjében is dolgozott segédmunkásként.

Diplomájának megszerzése után, 1967-ben néhány hónapig a Magyar Hajó- és Darugyár könyvtárában dolgozott, ahonnan egy szakmunkásképző intézet zuglói diákotthonába került nevelőtanárnak. 1972 óta volt szellemi szabadfoglalkozású.

Költői pályája az 1960-as évek második felében indult, első kötete, a Tüzem, lobogóm! 1969-ben jelent meg. Ekkor lett egyik alapító tagja a Kilencek néven ismertté vált költői csoportosulásnak, amely a magyar irodalom úgynevezett progresszív népi irányzatához állt legközelebb, Petőfi, József Attila, Ady, a modernek közül Nagy László és Juhász Ferenc szellemi örökségét vallotta magáénak.

Élénk társadalmi érdeklődés jellemezte őket, a fennálló rendszert áttételesen bíráló verseikben az össznépi képmutatást, a hamis jelszavak illúzióját bírálták, ellenzékiségük emiatt szálka volt a hatalom szemében. Újszerű volt az a magatartás is, amellyel ellenálltak annak, hogy az akkor szerkesztett Első ének antológiába tagozódjanak be, s így született meg saját gyűjteményük, az Oláh János versének címére utaló Elérhetetlen föld, amely az Írószövetség kiadásában jelent meg 1969-ben. A kötethez előszót a költő-példakép Nagy László írt szikár pontossággal jellemezve az ifjú költők törekvéseit.

Forradalmiság, ebből fakadó pátosz és tragikum jellemezte Utassy ekkori költészetét, ebben az időszakban született egyik leghíresebb verse, a Petőfi emlékét idéző Zúg március, amelyet gondos kezek évtizedeken keresztül mindenféle március 15-i műsorból kigyomláltak, mivel szerzőjük kényelmetlen igazságokat fogalmazott meg: "lopnak a bőség kosarából, a jognak asztalánál lopnak, népek nevében!"
A közéleti változásokra, a társadalmi mozgásokra való reflektálás később is megmaradt költészetében, ám az idő múlásával megfigyelhető a meditatívabbá válás, a drámaiság.

Versei több mint 20 kötetben láttak napvilágot, 2000-ben Vasárnapi földrengés címmel műfordításkötete is megjelent, 2001-ben gyermek- és ifjúsági irodalom kategóriában a Kiss Benedekkel és Mezey Katalinnal készített Furcsa világ című kötete elnyerte az Év könyve-díjat. 2000-ben az Illés Lajos zenéjére készült Betlehem csillaga című rockopera szövegkönyvét ő írta.

Több rangos elismerésnek is birtokosa volt: 1978-ban József Attila-díjat, 1989-ben és 1996-ban Déry Tibor-jutalmat, 1989-ben Magyar Művészetért Díjat, 1997-ben Pro Literatura-díjat, 2004-ben Péterfi Vilmos-díjat kapott, 2001-ben a Magyar Köztársaság Babérkoszorúja díjat, s a Balassi Bálint-emlékkardot vehette át, 2008-ban megkapta a Kossuth-díjat is. 2002-ben a Magyar Művészeti Akadémia választotta tagjai sorába, 2005-ben pedig a Digitális Irodalmi Akadémia tagja lett.
2010. augusztus 27-én hunyt el Zalaegerszegen.

A zalai megyeszékhelyen március 18-án tartottak megemlékezést a költő születésének 70. évfordulója alkalmából, március 24-én, csütörtökön pedig Budapesten, a Magyar Írószövetség székházában tisztelegnek Utassy József emléke előtt. Levetítik a Csillagok árvája című portréfilmet, és beszélgetést is rendeznek Csontos János, a film rendezője, Utassyné Horváth Erzsébet, a költő özvegye és Vasy Géza irodalomtörténész részvételével.