A csodagyerek Arrau előbb olvasott kottát, mint betűt, zongoratanár édesanyját pedig négyéves korában azzal ejtette ámulatba, hogy emlékezetből visszajátszotta az annak tanítványai által az órákon gyakorolt darabokat. Egy évvel később már nyilvános koncerten Beethoven, Schumann, Mozart és Chopin műveit adta elő, és a kritika "második Mozartnak" kiáltotta ki. Nyolcévesen ösztöndíjat kapott a berlini Stern konzervatóriumba, ahol a Liszt-tanítvány Martin Krause volt tanára, és zongoristaként több díjat nyert. Első szólókoncertjét 1914-ben adta, ekkor már el tudta játszani Liszt Transzcendens etűdjeit, amelyek a valaha írt legnehezebb zongoradarabok közé tartoznak, és Brahms Paganini-variációival is elkápráztatta a közönséget. Az első világháborút követően olyan neves karmesterek társaságában tett európai turnét, mint Wilhelm Furtwängler és Nikisch Artúr, majd az amerikai kontinensen is hangversenykörutat tett.

Arrau 1927-ben Genfben nagydíjat nyert azon a nemzetközi zongoristaversenyen, ahol a zsűriben helyet foglalt a valaha élt egyik legnagyobb zongoravirtuóz, Arthur Rubinstein is. 1935-ben Berlinben 12 koncerten eljátszotta Bach összes billentyűs hangszerre írott művét, de a koncertsorozat után úgy ítélte meg, e művek nem a modern zongorára íródtak, ezért Bach-darabokkal többé nem lépett fel. 1940-ben tért haza Chilébe, ahol zongoraiskolát alapított, egy évvel később a New York-i Carnegie Hallban tartott szenzációs hangversenyt. Otthona ezután az Egyesült Államok lett, az amerikai állampolgárságot 1979-ben kapta meg.

Arrau pályafutása csúcsán évente több mint száz koncertet adott, 80 évesen e szám hatvan-hetvenre csökkent, de még ekkor is járta a világot. Repertoárja rendkívül széles volt, Chopintől, Schumannon, Brahmson át Lisztig terjedt, mindenekelőtt azonban Beethoven zongoraműveink kiváló tolmácsolója volt, Beethoven összes zongoraszonátájával számos világvárosban fellépett. Előadásmódját mindvégig a virtuozitás, érzelmi gazdagság és intellektuális erő jellemezte. Szülőhazájában politikai okokból csaknem két évtizedig nem játszott, csak 1984-ben tért haza, hogy azon "új nemzedék" is megismerhesse játékát, amely korábban nem hallhatta őt. A rádióban egyenes adásban közvetített koncert végén a közönség 12 percen keresztül, állva ünnepelte.

1990-ben Münchenben telepedett le német énekesnő feleségével. Amikor 85 évesen megözvegyült, évekre visszavonult a koncertezéstől, amit halála évében kezdett volna újra. Már számos hangversenyre volt szerződése, amikor 1991. június 9-én meghalt az ausztriai Mürzzuschlagban. A múlt század egyik legnagyobb zongoraművészének hamvai chilei szülővárosában nyugszanak. Arrau egyebek közt megkapta az UNESCO zenei díját, a francia Becsületrend parancsnoka kitüntetést, és hazája legmagasabb művészi díját. Spanyol anyanyelve mellett beszélt angolul, olaszul, németül és franciául. A rendkívül széles érdeklődési körű pianista az 1920-as években komolyan tanulmányozta a svájci pszichiáter Carl Gustav Jung munkásságát, és olyan egymástól távol álló területekkel foglalkozott, mint a kertészkedés, a tánc és a kutyatenyésztés, emellett szívesen csevegett az etruszk művészetről, Proust, Goethe és a kiváló angol tájfestő, Turner munkásságáról.