Szekszárdon született, 1953-tól folytatta tanulmányait a Színház és Filmművészeti Főiskolán. Végzését követően, 1957-ben a Pécsi Nemzeti Színházhoz került, 1959-től a fővárosi Vígszínház tagja lett, majd három év múlva átszerződött a József Attila Színházba. Azóta is itt játszik, az angyalföldi társulatnál több mint fél évszázadot töltött el, és örökös taggá választották.

Láng József már főiskolásként, a Nemzeti Színházban a legnagyobb színészegyéniségekkel játszhatott együtt, később pályafutása során partnere volt Ruttkai Éva, Páger Antal vagy Sulyok Mária. Szerepelt többek között az Othellóban, a II. Richárdban, a Bánk bánban, a Három testőrben, A kőszívű ember fiaiban, A makrancos hölgyben, A salemi boszorkányokban, és jó hangja miatt számos alkalommal énekelhetett is a színpadon.

1955-ben állt először kamera elé, azóta mintegy 150 filmben és tévéjátékban szerepelt, például a Szegény gazdagok, a Kopjások és a Pogány Madonna című filmekben, valamint a Bors, a Kántor, A fekete város és a Szomszédok című tévésorozatokban.

Sokak számára mégis szinkronszerepei révén a legismertebb, szinkronizált már kövér nőt, eunuchot és számos szórakoztató, ám nehéz szerepet. Az ő magyar hangján szólalt meg Roger Moore, először az Angyal című tévésorozatban, aztán James Bondként és a Minden lében két kanál című sorozatban is (ebben a másik főszereplő, Tony Curtis magyar hangja Sztankay István volt). Ez a karakter szinte végigkísérte életét, néha hátráltatta is, hiába bizonygatta, hogy nem teljesen úgy beszél, mint a sorozatban, megesett, hogy egy-egy szereptől emiatt esett el. A sorozat felújításakor a Láng-Sztankay páros színházi elfoglaltságra hivatkozva lemondta a szinkronizálást, ezért a forgalmazó új szinkronhangokat keresett. A kísérlet kudarcba fulladt, a rajongók visszakövetelték a megszokott magyar hangokat.

Részlet a Minden lében két kanál című filmből:

Munkássága elismeréseként 1996-ban a Magyar Köztársasági Érdemrend Kiskeresztjét vehette át, 2010-ben Gobbi Hilda életműdíjjal jutalmazták, s elnyerte a Közönség-díját is. Láng József saját bevallása szerint nagyon szeret nevetni, de a színpadon félénk a szerepen kívüli "hülyéskedéshez". Kollégáinak is gyakran mondogatja: "Ha engem kiborítotok, akkor röhögni fogok!".