Budapesten született 1921. november 25-én.
Értelmiségi család gyermeke.
A törékeny, érzékeny gyermeket nagynénjei gyámolították, akik Pilinszkyre még felnőtt korában is erős érzelmi befolyással voltak. Verseinek egyik első értő olvasója nővére, Erika volt, akinek öngyilkossága 1975 decemberében jóvátehetetlen űrt hagyott a költőben, s talán szerepet játszott abban, hogy nem írt több verset.
A budapesti piarista gimnáziumban érettségizett; jogot, majd magyar irodalmat és művészettörténetet hallgatott, de egyetemi tanulmányait nem fejezte be. Első verseit 1938 végén, 1939 elején a Napkelet, az Élet és a Vigilia közölte - ezeket később nem vette fel kötetbe.
1941-44-ben az Élet segédszerkesztője volt.
1944 őszén katonának hívták be, így került el a németországi Harbachba, ahol egész életre szóló, megrendítő élménye lett a koncentrációs táborok borzalmaival való találkozás.
1946-48-ban az Újhold társszerkesztője volt. Nevét joggal sorolják ugyan az Újhold köréhez, de hasonló erős szellemi és személyes kötődések fűzték más csoportosulásokhoz is, így a Vigilia és a Válasz köréhez. Verseit a Magyarok és a Válasz közölte; első kötetét, a Trapéz és korlátot 1946 a Szent István Társulat adta ki. E vékony kötettel nyerte el 1947-ben a Baumgarten-díjat. 1947-48-ban ösztöndíjasként több hónapot Rómában töltött.
1949-től nem publikálhatott, az irodalmi élet perifériájára szorult. Ekkoriban verses meséket írt; a meséket tartalmazó kötetével lépett a kényszerű hallgatás után először a nyilvánosság elé (Aranymadár 1957).
1956-ban rövid ideig a Magvető Kiadó lektora, 1957-tó1 az Új Ember című katolikus hetilap belső munkatársa, nagyrészt itt jelentek meg tárcái, vallásos és bölcseleti elmélkedései, művészeti kritikái.
A második világháború utáni magyar líra egyik legnagyobb teljesítménye a Harmadnapon 1959 című kötet. Eredetileg a Senkiföldjén címet viselte, de Pilinszky kénytelen volt megváltoztatni, mert megjelenését ehhez kötötték.
Az 1960-as évek elejétől számos alkalommal utazott Nyugat-Európába; Párizsban hosszabb időt is töltött, 1975-ben Amerikába is eljutott. Nemzetközi elismerését kiváló versfordításaikkal olyan költőtársak segítették, mint az angol Ted Hughes és a francia Pierre Emmanuel. (1976-ban Ted Hughes vendégeként aratott sikert Londonban.)
1970 végén ismerkedett meg Jutta Scherrer német vallástörténésszel. Szerelmük idejére esett Pilinszky utolsó alkotói korszaka, amely a Szálkák 1972 című kötettel kezdődött és a Kráter 1976 című gyűjteménnyel zárult. Életképek című színművét 1980-ban mutatták be az Egyetemi Színpadon.
Míg az ötvenes években viszonylag szűk körben ismerték, a hetvenes években már általános elismerés övezte - 1971-ben József Attila-díjat, 1980-ban Kossuth-díjat kapott -; ám a felé forduló figyelem részben megzavarta, fokozta szorongásait. Önéletrajzaim címmel „vertikális regényt” készült írni, ennek egyik fejezetéből filmet rendezett volna, Kocsis Zoltán társaságában operát akart írni. E terveiből semmit sem tudott megvalósítani.
Alig egy hónappal az Ingrid Ficheux-vel kötött házassága után, 1981. május 27-én Budapesten elhunyt.
A hetvenes évektől kezdve Pilinszky gyakran nyilatkozott a költészetét meghatározó életrajzi tényekről. A gyermekkori vakációkat a nagynénje által vezetett leányátnevelő intézetben töltötte. Itt tanulta meg a minden emberi jelenséggel szembeni alázatot és megértést. Másik nagynénje betegsége folytán felnőtt korában sem tudott normálisan beszélni. Tőle tanulta meg a locsogás elvetését, a megszólalás, az artikuláció lelki és fizikai gyötrelmét, de egyúttal fegyelmét is.
A koncentrációs tábor élménye szintén meghatározta líráját. Pilinszky a század botrányának nevezte a megsemmisítő táborok létrejöttét. Egész életében nem szabadult ettől az élménytől.
Önmeghatározása szerint: „Én költő vagyok és katolikus”. Azaz elhatárolja magát a kegyességi, ájtatossági, vallásos költészettől, s különválasztja a művészetet a hitbeli-vallási meggyőződéstől. Ugyanakkor költészete katolikus a szó eredeti értelmében, amennyiben a század egyetemes kérdéseit, problémáit veti fel, s azokra egyetemes érvénnyel akar válaszolni. Költészete katolikus abban az értelemben is, amennyiben legfőbb témakörei - a bűn, a szenvedés, a megváltás - egyúttal a dogmatika és az üdvtörténet problémái is.
Főleg korai költészete jellemezhető az egzisztencializmussal, az ember tragikus világba vetettségének gondolatával. Nagy erővel hat rá Simone Weil bölcselete. A haláltáborokat is megjárt filozófusnő elveti a legfőbb kérdésekre eddig adott válaszokat, félresöpri a filozófiatörténetet, s újra felteszi a legalapvetőbb kérdéseket. Ez a szent naivitás ragadja meg Pilinszkyt.
Nagy hatással van Pilinszkyre Dosztojevszkij világa, elsősorban az orosz író istenkereső-pokoljáró hősei, akik rendkívül széles spektrumban keresik az igazságot. Zoszima sztarec, Aljosa Karamazov alakján kívül az Ördögök hőse, Sztavrogin bukkan fel többször verseiben.
Az Újszövetségből különösen a szenvedéstörténet, a Jelenések könyve és a példabeszédek ragadják meg. „Minden igazi mű a tékozló fiú történetének megismétlése” - vallotta.
Költészetének hatása részben nyelvének rendkívüli tömörségével, s ebből fakadó művészi erejével magyarázható. A nyelv mint filozófiai és művészi probléma a XX. században került előtérbe. Ennek társadalmi-politikai okát George Steiner abban látja, hogy az a nyelv, mely képes volt közvetíteni és hitelesíteni az embertelenséget, az szükségképpen kompromittálódott és alkalmatlan az ellenkezője hirdetésére. Adorno szerint Auschwitz után nem lehet verset írni. A század költészetében a nyelvprobléma kihívására két válasz születik. Az egyik a locsogás, mely a posztmodern szövegalkotásban teljesedett ki, a másik a költészetnek a csönd, az elhallgatás felé való közelítése, mely Pilinszky líráját is jellemzi. Ezeken túl Pilinszky törekvése, hogy megtisztítsa a szavakat a rájuk rakódott irodalmi asszociációktól, felidéző voltuktól, s helyette a szavak megnevező funkciója kerüljön előtérbe.
Költészetének első korszakát az egzisztencializmus problémaköre, a magány, a jéghideg űr motívuma jellemzi, mely József Attila kései költészetével mutat rokonságot. (1946. - Trapéz és korlát című kötet.) A „tanúk nélkül dolgozó pokol” megszólaltatói; magányosságra ítélt és kárhoztatott lélek szólal meg bennük, akit a szenvedés sem válthat meg; bűntelenül is bűnös, akinek a bűnhődése is céltalan. Még a szerelem is „kegyetlen, néma torna”, kettős magány, közös elítéltség.
A megváltatlan ember tragikuma, a krisztusi szenvedéstörténet és a lágerélmény egymásba játszása jellemzi második költői korszakát. 1959. - Harmadnapon; 1970. - Nagyvárosi ikonok.)
A megváltott ember gondolata hatja át utolsó korszakát, mely egyúttal katolicizmusának felerősödését is jelenti. (1972. - Szálkák; 1974. - Végkifejlet; 1976. - Kráter) „A Szálkák versei lávaömlésszerűen születtek, saját vallomása szerint két vagy három hét alatt írta meg őket, míg az egész előző életmű több mint húsz esztendő termése. Az 1971 után írt versek töredékesen kihallgatott monológok benyomását keltik, naplószerűek, pillanatnyi lét- és közérzethíradások. A Szálkák költészete az Isten nélkül maradt evilág ürességéről szól.
A Végkifejlet versei sűrített belső történéseket, szimbolikus jeleneteket rögzítenek. Míg a korábbi, második korszakot a megváltatlan ember tragikuma, a harmadikat a megváltott ember üdvözülésének gondolata hatja át.” (Veres András)
Bár történtek újra- és átértékelő gesztusok, költészetének legértékesebb része az 1959-es Harmadnapon, annak is Egy KZ-lager falára ciklusa. A ciklus meghatározó verseiben Pilinszky egybemontírozza a szenvedéstörténet motívumait a lágerélmény képeivel. Ez adja a versek feszültségét, egyúttal üzenetét is: a század botránya valójában a jézusi passió megismétlődése, mint ahogy a XX. század emberének tragikus magánya és a szenvedéstörténet visszfénye.
A Francia fogoly 1947 a magyar költészetben népszerű s kissé lenézett műfajt, az életképet újítja meg. Valójában kettős dráma zajlik le a versben: az epikus módon elmesélt történet a fogolytáborból szökött francia rabról és a másik, a lírai én, az emlékező drámája, aki a látott élménytől, az emberi esendőség és kiszolgáltatottság látványától nem tud szabadulni.
A Ravensbrücki passióban 1959 a cím egyszerre általánosít és konkretizál, s ily módon a rab kivégzés előtti utolsó pillanatának ábrázolása mindenfajta szenvedés magába sűrítője és jelképe. Pilinszky nem a halált jeleníti meg, azt az utolsó versszak hétköznapi sorai szinte csak mellékesen jegyzik meg. Ami a költőt foglalkoztatja, az a halállal való szembenézés pillanata, a végtelen magány, mely borzasztóbb és tragikusabb a fizikai megsemmisülés hirtelen bekövetkezténél.
A Harmadnapon 1959 című költeményben a passió és a megsemmisítő tábor képeinek, utalásainak egymásba játszása nem fejeződik be a tragikum kimondásával, hanem -
Pilinszkynél ritka módon - a feltámadás reményét sugallja.
Az Apokrif 1956 a Pilinszky-világkép nagy, összefoglaló verse. A cím a nem kanonizált iratra utal, műfaját tekintve valójában apokalipszis, a végítélet személyes leírása. Az atomhalál képei keverednek a lágerversekből ismert motívumokkal, az individuum kozmikus magányának képeivel a kései József Attila hangját is idézve. A második rész szervező gondolata a tékozló fiú példázatára épül, egyszerre a hazatérés reményét és reménytelenségét sugallva. Ugyanitt bukkan föl az emberi kommunikáció lehetetlenségének problémaköre, a szó, a beszéd elégtelensége. A harmadik egység Isten és ember viszonyával foglalkozik talányosan. Egyszerre értelmezhetjük elidegenedett kapcsolatként, passzív viszonyként, s hangsúlyozhatjuk a sor elejére vetett állítmányt is, azaz a kapcsolat meglétét.