1866. december 4-én született Moszkvában egy gazdag teakereskedő fiaként. Dédanyja mongol hercegnő volt, apja a kínai határnál jött a világra, ázsiai gyökerei halványan megjelenésén is látszottak. Családjával sokat járt külföldön, főleg Itáliában, ötéves korától a pezsgő Odesszában élt. Moszkvában tanult közgazdaságot és jogot, jogi diplomáját 1893-ban szerezte meg. Főként az építészet és az ikonok érdekelték, 1889-ben egy néprajzi gyűjtőútján figyelt fel a népi festészet valóstól elütő színeire és formáira. Az Ermitázsban Rembrandt művészetét tanulmányozta, és párizsi tanulmányutat is tett.
A festészetet 1896-tól Münchenben tanulta, a realizmus mellett az impresszionizmus, a szecesszió és a pointillizmus is hatott rá. Később az expresszionizmus és fauvizmus irreális színvilága ragadta el, de az orosz ikonok és népművészet benyomásai is megmaradtak, első önálló kiállítása Moszkvában volt 1903-ban. Utazgatott Németországban, Franciaországban, Olaszországban és Tunéziában, végül a dél-bajorországi Murnauban telepedett le, itt alakult ki egyéni, a tiszta absztrakthoz vezető stílusa.
Kandinszkij olyan festészetet akart teremteni, amely megszabadul a tárgyi ábrázolástól, a színeket, formákat és vonalakat a zenéhez hasonló, érzelmek és gondolatok kifejezésére alkalmas vizuális nyelvként akarta alkalmazni.
Az absztrakttal már a kubisták is próbálkoztak, de az első nonfiguratív festménynek Kandinszkij 1910-es Első absztrakt című vízfestményét tartják. Az első kiállított absztrakt kép a következő évben a nagyméretű Kompozíció V volt, ezen már egyetlen felismerhető tárgy sincs. A kép elemeinek tudatos átrendezését szerkesztett szétszórásnak hívta: Fekete ív, Fekete vonalak, Ősz című alkotásai jelentik művészete csúcsait. Münchenben alapító tagja volt az Új Művészegyüttesnek, majd
1911-ben Franz Marckal létrehozta a Der Blaue Reiter nevű csoportot, amely egy 1903-as Kandinszkij-képről kapta a nevét.
Az első világháború kitörése után hazatért Oroszországba. Az 1917-es bolsevik hatalomátvétel után a szovjet kormány meg akarta nyerni a modern művészeket, így Kandinszkij a Moszkvai Művészeti Főiskola tanára és a Közoktatási Népbiztosság munkatársa, a Képi Kultúra Múzeum igazgatója, a moszkvai egyetem tanára lehetett. Megjelent orosz nyelvű önéletrajza, 1919-ben létrehozta a Művészeti Kulturális Intézetet és a Szovjet Művészettudományi Akadémiát. Talált időt a festészetre is, ekkori művei, a Fehér vonal vagy a Kék töredék már a teljes absztrakció jegyében születtek.
A szovjet vezetés 1921-től az absztrakt helyett már a szocialista realizmust kezdte előnyben részesíteni, Kandinszkij pedig Berlinbe utazott, majd 1922-ben Weimarban a Bauhaus tanára lett. Eleinte a formai elemekről és színekről adott elő, falfestészeti stúdiót vezetett, a szabad festészetet a Bauhauson csak 1925-től, már Dessauban oktatta. Sárga-kék-piros kompozíciójában a geometrikus absztrakcióhoz jutott közel, a Pont és vonal a síkban című könyvében elméleti kérdésekkel foglalkozott.
Már a Der Blaue Reiter tagjaként kísérletet tett egy minden érzékszervre ható előadás létrehozására, a „totális művészet” jegyében kép és hang (zenekar, énekesek, táncosok és színes vetített képek) együtt nyűgözték volna le a nézőket, de a premier az első világháború kitörése miatt elmaradt. 1928-ban aztán a Bauhaus biztosított lehetőséget neki arra, hogy első és utolsó színházi produkciójaként színpadra állítsa Muszorgszkij Egy kiállítás képei című darabját.
Az előadáson a zongora hangja mellett a zenével összhangban váltakozott a világítás, a díszlet és a vetített képek.
Felvétel nem készült, csak Kandinszkij 16 képe és az instrukciók maradtak fenn, az előadást ezek alapján rekonstruálták néhány éve Párizsban.
A festő 1928-ban lett német állampolgár. Amikor a nácik 1933-ban bezárták a Bauhaust, Párizsba emigrált. Utolsó berlini képe, a Fejlődés barnában nyilván a barnainges rohamosztagosokra utal, a nácik később 57 „elfajzottnak” minősített képét elkobozták. Élete utolsó évtizedében egy kis párizsi lakásban élt, a francia állampolgárságot 1939-ben kapta meg. Utolsó korszakában az organikus és geometrikus stílust ötvözte, a kemény formák dinamizmusát játékos könnyedség váltotta fel (Égkék). Képein időnként egy kéz vagy arc is felbukkan, jellemző művei az Ibolyaszín domináns, a Domináns ív, a Tizenöt, a Mérséklet és a Fékezett lendület. A kor művészeti áramlataitól egyre jobban elszigetelődő Kandinszkij 1944. december 13-án halt meg a Párizshoz közeli Neuilly-sur-Seine-ben.
Tanulmányaiban a tudományos pozitivizmus kudarcáról írt, és a „fizikai szubsztanciák szimbolikus jellegének” megértésére buzdított. Az absztrakt nagyhatású teoretikusa volt, az „abszolút”, „tiszta” festészet elméletének kidolgozója. Rendkívüli hatást gyakorolt a század festészetére, képei hatalmas összegekért kelnek el: 2012-ben egy 1909-es alkotásáért 23 millió dollárt fizettek egy árverésen, 2016-ban ezt túlszárnyalta 1935-ben Párizsban készült Rigide et Courbe (Merev és ívelt) című festménye, amelyért 23,3 millió dollárt adott egy műgyűjtő. A festményt a Solomon R. Guggenheim Múzeum vásárolta meg 1936-ban magától a festőtől, és 1964-ben került magángyűjteménybe.
2016-ban A művészet forradalma című orosz avantgárd kiállítás keretében a Magyar Nemzeti Galériában több alkotását is megtekinthették az érdeklődők. A Bauhaus idei centenáriuma alkalmából, több évig tartó felújítás után, tavasszal nyílt meg Dessauban a tervezőiskola professzorainak épített művésztelep egyik világhírű épülete, Kandinszkij és Paul Klee német festő családjának ikerháza. Kandinszkij nevét a Merkúron 2012 óta egy kráter őrzi.