Bécsben született. Bár nyolc éves korában kezdett hegedülni és négy évvel később már komponált, alkotói tehetsége csak Alexander von Zemlinsky növendékeként bontakozott ki. 1897-ben írt vonósnégyesét a bécsi bemutatón kedvezően fogadták, és néhány dala nyomtatásban is megjelent. Ezek a dalok azonban már megbotránkoztatták a közönséget. 1903-ban kezdett tanítani, és hamarosan köré csoportosultak a haladó szellemű fiatal muzsikusok. Alban Berg és Anton Webern is Schönberg tanítványa lett.
Schönberg neve a köztudatban egyet jelent a tizenkétfokú hangrendszer (dodekafónia) és az ennek megfelelő zeneszerzési technika kialakításával. A valóságban nem ő, hanem az osztrák Joseph Mathias Hauer (1883-1959) fedezte fel az új hangrendszer és a hangok ismétlődését kiküszöbölő kompozíciós szabályok elméletét és gyakorlatát, amelyet 1912-ben közzétett Törvény című zongoradarabjában valósított meg elsőként. Schönberg zeneszerzői fejlődése a későromantika kromatikus harmóniavilágából és lélegzet nélkül áradó dallamosságából indult ki (Verklärte Nacht, 1899.), és Mahler, illetve Strauss nyomdokain haladt tovább (Guerre-Lieder, 1901). Csakhamar úgy vélte, hogy ennek a stílusnak minden lehetőségét kimerítették már, és ez a zenei nyelv nem alkalmas többé a művész időszerű mondanivalójának kifejezésére.
Megpróbált kiszabadulni a tonalitás kötelékeiből, a konszonancia és disszonancia addigi határainak eltörlésével, és újfajta, expresszionista eszközök létrehozásával kísérletezett. 1911-ben a berlini Szépművészeti Akadémián és a Stern-féle Konzervatóriumban kezdett tanítani. Berlini működését az első világháború szakította félbe. A háború után Bécsben részt vett a magánhangversenyeket rendező társaság megszervezésében.
A tonalitás feloldása Schönberg számára nem művészi szabadságot, hanem anarchiát jelentett: új törvényekre, az eddiginél még szigorúbb logikai rendszer kialakítására volt szüksége ahhoz, hogy gondolatainak fegyelmezett irányt szabhasson. A tizenkétfokú rendszer - amelynek elméletét 1923-ban dolgozta ki - megfelelt ennek a követelménynek. A zongorára írt Öt darab (op. 23) és a Szerenád (op. 24) című kamarazenekari mű egy-egy tétele sikerrel váltotta valóra az elméleti rendszert és az 1923-ban befejezett Zongoraszvit (op. 25) már teljes egészében dodekafon kompozíció.
1925-ben Berlinben Busoni utóda lett a Szépművészeti Akadémián. 1933-ban az Egyesült Államokba vándorolt ki, ahol több felsőoktatási intézményben tanított. Húsz éven át ebben a rendszerben alkotott Schönberg, művészetének tetőpontjára azonban csak a negyvenes években érkezett el. Ekkor írta azokat a műveit, amelyeknek nem logikai bravúrja, hanem megrázó emberi tartalma ragad meg elsősorban. Ennek a kései korszakának kimagasló alkotásai: a Napóleon-óda (1942), a zenekarra írt Téma és változatok (1943), valamint az Egy varsói menekült című kantáta (1947).
A szeptember 13-án született zeneszerző a triszkaidekafóbia betegségtől szenvedett, amely a 13-as számtól való félelmet jelenti. Ezért nem lakott soha 13. számú házban, ezért lett operájának címe a csak 12 betűből álló Moses und Aron a helyes Aaron helyett, és ezért rettegett attól, hogy 76 éves legyen, mert a két számjegy összege 13. Egy évvel később, 1951 júliusában halt meg éppen július 13. napján a kaliforniai Brentwoodban.