Híres zenészcsaládban látta meg a napvilágot, édesapja, idősebb Járóka Sándor világhírű hegedűs volt. Az ifjabb Sándor négyévesen kapta meg első hegedűjét, és hatéves korától már édesapja zenekarában játszott. Zenei tanulmányait a Kígyósi Zeneiskolában, majd hat évig az Országos Szórakoztatózenei Központ (OSZK) Stúdióban, Égerland István zenetanárnál folytatta, közben a Rajkó Zenekarnak is növendéke volt. Tizenhat évesen édesapjával olaszországi, majd 1971-ben amerikai koncertkörúton vett részt, hazaérve megalakította saját zenekarát.

Mindössze tizennyolc éves volt, amikor berobbant a cigányzenei életbe. Számtalan külföldi meghívásnak tett eleget: az Egyesült Államokban, Kanadában, Hollandiában, Németországban, Izraelben, Japánban és Ausztriában is több hónapos koncertkörutat tett. A holland királyi udvar visszatérő művésze volt, minden évben kapott meghívást a királyi családtól. 1994-ben az Egyesült Államokban, - ahogy édesapját is - a prímások királyává koronázták a cigányzenészek. A két Járókának egy közös lemeze jelent meg.

A fiatal Járóka a 100 Tagú Cigányzenekar művészeti vezetője volt 1995-96-ban. A hegedű mellett kitűnően játszott bőgőn, brácsán és gitáron, zeneszerzőként nótákat, csárdásokat, slágereket komponált. Művészi tevékenysége elismeréseként 2003. augusztus 20-án megkapta a Magyar Érdemrend lovagkeresztje kitüntetést.

A súlyos cukorbetegségben szenvedő zenész 2004. február 27-én kómába esett. Az orvosok évekig küzdöttek életéért, zenészbarátai jótékonysági koncerttel támogatták gyógykezelését, de többé nem ébredt fel, és 2007. szeptember 18-án elhunyt. A rákoskeresztúri új köztemetőben, édesapja mellett helyezték örök nyugalomra. Temetésén a 100 Tagú Cigányzenekar valamennyi tagja, továbbá az ország minden részéből és külföldről érkezett zenészek muzsikáltak. A sírnál Boross Lajos prímás és Kállai Kiss Ernő klarinétművész vezetésével húzták a zenészek ifj. Járóka Sándor nótáit, szerzeményeit.