Mohácson született félig magyar, félig szláv szülőktől. Kisgyermekkorát Siklóson töltötte, ahol édesapja a helyi kórház főorvosa volt. Pécsett érettségizett, majd a Zeneakadémián folytatta tanulmányait, 1970-ben Révhegyi Ferencné növendékeként végzett. Diplomáját kézhez véve a Magyar Állami Operaház magánénekese lett, az intézménynek 1996 óta örökös tagja, 2008-tól mesterművésze, azóta nyugdíjasként kap rendszeresen szerepeket. Az Operaház színpadán Wagner Siegfried című operájának Fafner szerepében debütált, s még ugyanabban az évben elénekelte Verdi A végzet hatalmának szerzetesét, Guardiant.
Már tizenhat évesen elénekelte a keszthelyi Helikoni Ünnepségeken Verdi Don Carlosából Fülöp király áriáját, produkcióját hallva Kodály Zoltán e szavakkal biztatta:
Fiatalember, ha így folytatja, méltó utóda lesz Székely Mihálynak.
Országos ismertséget hozott számára az 1965-ös Ki mit tud?, ahol második helyezett lett. Pályafutása elején több nemzetközi versenyen is sikerrel szerepelt: 1970-ben megnyerte a budapesti Erkel Ferenc Énekversenyt, 1973-ban a Rio de Janeiró-i Caruso Énekversenyt, a következő évben második díjat nyert Moszkvában a Csajkovszkij Énekversenyen.
Az alábbi felvételen Kováts Kolos és Gregor József Verdi Don Carlosának részletét éneklik. (IV. felvonás, Son io dinanzi al Rè?)
Nemzetközi karrierje is korán indult, első külhoni fellépése 1971-ben Frankfurtban volt, a Don Carlos Fülöp királyát énekelte. Több szerepében külföldön előbb volt látható, mint itthon, repertoárja nagy részét magyarul és eredeti nyelven is énekli. Rendszeresen vendégszerepelt számos neves operaházban, koncertteremben és fesztiválon, fellépett többek között a milánói Scala, az amszterdami Concertgebouw, a londoni Royal Festival Hall, a New York-i Carnegie Hall színpadán és a Glyndebourne Fesztiválon is. Három évig folyamatosan játszott a bécsi Staatsoperban, ahol Muszorgszkij Borisz Godunov című operájában Pimen szerzetesként együtt énekelt eszményképével, a címszerepet alakító bolgár Nyikolaj Gyaurovval.
Az operairodalom szinte összes fontos basszus szerepét elénekelte. Pályája csúcsát Bartók Béla A kékszakállú herceg vára címszerepe jelenti, amelyet a világ számos pontján csaknem négyszázszor, tizenhét rendezésben énekelt, s a milánói Scalában előbb adta elő, mint a budapesti Operaházban. Negyvenkét éven át játszotta Sarastrót Mozart A varázsfuvola című operájában, utoljára az Erkel Színházban, ahol ma már az Öreg pap szerepében látható. Legkedvesebb zeneszerzőjétől, Verditől szinte mindent énekelt, ezek között volt Pagano (A lombardok), Zakariás (Nabucco), Jacopo Fiesco (Simon Boccanegra), Ferrando (A trubadúr), Banquo (Macbeth), Don Silva (Ernani). Idén nyáron a Szegedi Szabadtéri Játékokon a Rigolettóban Monterone grófot alakítja majd. További főbb szerepei: Gremin herceg (Csajkovszkij: Anyegin), Doszifej (Muszorgszkij: Hovanscsina), Oroveso (Bellini: Norma), VIII. Henrik (Donizetti: Anna Bolena), Mefisztó (Gounod: Faust), Alvise Badoéro (Ponchielli: Gioconda), Timur (Puccini: Turandot).
O Isis und Osiris - Mozart Varázsfuvolájában Kováts Kolos
Az opera mellett énekel operettet és oratóriumot is, előadásait mintegy negyven magyar és külföldön kiadott hanglemez örökíti meg. Legtöbb operalemezét Lamberto Gardelli vezényletével, Sass Sylvia partnereként készítette, de
énekel közös albumon José Carrerasszal és Nicolai Geddával is.
Szólólemeze Verdi-basszusáriák címen jelent meg. A filmvásznon is kipróbálhatta magát, Káel Csaba Bánk bánjában II. Endre ruháját öltötte magára.
Keserű bordal - a Bánk bán híres áriáját Kováts Kolos énekli
Művészi munkásságának elismeréseként 1977-ben Liszt Ferenc-díjat, 1978-ban Székely Mihály-emlékplakettet, 1984-ben érdemes művész címet kapott. 1992-ben Kossuth-díjjal tüntették ki "az operairodalom basszus főszerepeinek példás megvalósításáért". Lábnyoma 1999 óta látható a Nagymező utcai Pesti Broadwayn, miután a közönség szavazatai alapján a Halhatatlanok Társulatának Örökös Tagja lett. 2003-ban a Köztársaság Elnökének Érdemérme kitüntetéssel, 2005-ben Bartók Béla-Pásztory Ditta-díjjal és Prima-díjjal, 2006-ban a Magyar Köztársasági Érdemrend középkeresztje kitüntetéssel ismerték el munkásságát.
Szinetár Miklós rendezte, Solti György vezényel, a Kékszakállú Kováts Kolos, Judit Sass Sylvia