Szülei az Ugocsa megyei Halmi községből vándoroltak Budapestre az I. világháború után, Nemes Nagy Ágnes már itt született. A legendás Baár-Madas Református Leánylíceum tanulója volt, a költő-igazgató Áprily Lajos személye meghatározta költői pályáját. A Pázmány Péter Tudományegyetemen tanult tovább, ahol megismerte Szerb Antalt, Halász Gábort, valamint Lengyel Balázst, akivel 1944 áprilisában össze is házasodtak. A második világháború idején férjével - aki megszökött a katonaságtól - üldözötteket mentettek és bújtattak.

Első verseskötete Kettős világban címmel jelent meg 1946-ban, amelyért két évvel később Baumgarten-díjat kapott. Ugyancsak 1946-ban a Köznevelés című pedagógiai folyóirat munkatársa lett, majd Lengyel Balázzsal megalapították az Újhold című folyóiratot, amely a babitsi Nyugat eszmeiségét és minőségigényét vállalta magára. A lapot egy idő után a hivatalos kultúrpolitika túlságosan polgárinak találta s 1948-ban be is tiltotta. Ezt követően csak a Vigíliában jelenhettek meg versei, emellett gyerekeknek szóló műveket írt. 1958-tól szabadfoglalkozású íróként dolgozott. Jelentős műfordítói tevékenységet is folytatott, főként francia és német nyelvű műveket ültetett át magyarra.

A hatvanas évektől ismét megjelenhettek versei, az 1969-es Lovak és angyalok című kötetéért József Attila-díjjal jutalmazták. Költészetében szigorúan tartotta magát a racionalizmushoz, de a látszólagos szenvtelenség, távolságtartás, hűvös józanság és csillogó intellektus mögött kimondhatatlan szenvedély parázslott. A hatvanas évek végétől neve egyre ismertebbé vált az országhatárokon túl is: külföldi folyóiratok, antológiák közölték verseit angol, német, francia és olasz nyelven.

Nemes Nagy Ágnes a hetvenes, nyolcvanas években a magyar irodalmi élet meghatározó személyisége lett, kapcsolatot tartott az emigrációban élő költőkkel, írókkal, több külföldi felolvasóesten, írótalálkozón is részt vett. Esszéköteteiben pályatársakról, a műfordítás és a versírás gyakorlatáról, az alkotáslélektanról, verselemzésről írt. Gyermekeknek szóló meséi közül kiemelkedik a Bors néni könyve, amelyből nagy sikerű előadás született a Kolibri Színházban. 1986-ban Lengyel Balázzsal újraindították az Újholdat, amely almanach formájában évente kétszer jelent meg.

1983-ban életműve elismeréseként megkapta a Kossuth-díjat, 1991-ben pedig alapító tagja lett a Magyar Tudományos Akadémián belül szerveződő Széchenyi Irodalmi és Művészeti Akadémiának. Budapesten hunyt el 1991. augusztus 23-án. 1997-ben férjével együtt posztumusz megkapta Izrael Állam Jad Vasem kitüntetését, mert a nyilasuralom alatt mentette az üldözötteket. 1998-ban a Pro Renovanda Cultura Hungariae Alapítvány Nemes Nagy Ágnes Emlékdíjat alapított a magyar esszéirodalom legjobbjainak elismerésére.