A kis Jack négyéves korában kezdett zongorázni, és csak tíz évvel később fordult az ütőhangszerek felé. Sokáig zongoratanulmányaival párhuzamosan dobolt, és mindkét hangszerén keresett zenész volt a chicagói zenei életben - a jazz mellett olyan műfajokban is, mint az R&B, hard bop, és több, szabad illetve kísérleti zenét játszó együttesnek is tagja volt.

1966 óta - ekkor költözött New Yorkba - a legnagyobbakkal játszik együtt: John Coltrane, Charles Lloyd, Miles Davis, Ornette Coleman, Sonny Rollins,Thelonious Monk, John Abercrombie, Bill Evans, Stan Getz, Chet Baker, George Benson, John McLaughin, Chick Corea Ron Carter, Lee Morgan, Charles Lloyd, Herbie Hancock, Dave Holland, Bobby McFerrin, Wayne Shorter és mások mellett dobolt.

A '70-es évektől kezdve több saját együttest is vezetett, köztük volt a Compost, a Directions, a New Directions, a Gateway és a Special Edition. 1968-an rögzítette első, The DeJohnette Complex című szerzői lemezét, későbbi jelentős lemezei többségében az ECM kiadónál jelentek meg. A '80-as évektől Keith Jarrett triójában játszik, ahol a ritmusszekciót Gary Peacock bőgőssel alkotják.

Első Grammy-jelölését 2006-os Saudades című, Tony Willimas-emléklemezéért kapta, a díjat végül csak 2009-ben vihette haza, Peace Time című, Best New Age Album-kategóriában jelölt korongjáért. Ez is jelzi, hogy a zeneszerzőként is tevékeny muzsikus a legkülönfélébb stílusokban és műfajokban mozog otthonosan. A bostoni Berklee College of Music tiszteletbeli doktora, többször nyert a DownBeat és a JazzTimes szakmai- és közönségszavazásain, és 2012-ben a jazz amerikai mesterei (NEA Jazz Masters) közé is beválasztották.

Jack DeJohnette több szállal kapcsolódik Magyarországhoz: 2002-ben és 2003-ban is jazz tehetségkutató verseny díszelnökeként járt Budapesten, de készített lemezt is a magyar fővárosban, méghozzá  John Patitucci oldalán. A Szakcsi Generation című korongon a szupersztár ritmusszekció négy magyar zongoristát: Szakcsi Lakatos Bélát, Szakcsi Lakatos Róbertet, ifj. Szakcsi Lakatos Bélát és Oláh Kálmánt kíséri - utóbbi partnereként pedig 2008-ban is járt a Müpában, közös lemezük bemutatóján. Akkor így nyilatkozott a műfajokon átívelő életútjáról: "Nincs más 'titkom', csak a zenei közeg, amelyben felnőttem. Mindig úgy közelítettem a zenéhez, mint egyfajta egységes nyelvhez, amelyet nem lehet kategóriákra, stílusokra osztani. Nincs más felosztási mód, mint a jó és a kevésbé jó zenék halmaza. Számomra minden zene világzene..."