Fellépését 1939 tavaszán a rádió is közvetítette, amit hallott Harry James trombitás, aki ekkoriban szervezte át együttesét; Sinatra lett az új énekesük. Júliusban lemezfelvételt is készítettek.

1940-től Sinatra már Tommy Dorsey együttesének tagja volt, valamint szerepelt a Las Vegas Nights című filmben is. 1942-ben otthagyta Dorsey zenekarát, és szólókarrierbe kezdett. 1945-ben Gene Kelly partnere volt az Anchors Away című filmmusicalben. 1947-ben megjelent Songs by Sinatra című albuma, 1948-ban pedig a Christmas Songs by Sinatra: mindkettő a slágerlisták élvonalába került. 1954-ben Oscar-díjat kapott a From Here to Eternity című háborús dráma főszerepéért, bizonyítva ezzel színészi képességeit. 1957-ben a The Joker Is Wild című filmben játszott.

1958-ban a Capitol kiadta Come Fly with Me című nagysikerű albumát. Ezt követte a Come Dance with Me! 1959-ben, amely nemcsak aranylemez lett, hanem Grammy-díjjal is jutalmazták. Talán leghíresebb dalát, a My Way-t 1969-ben énekelte lemezre. 1973-ban újabb albumot adott ki Ol’ Blue Eyes Is Back címen. Nyolcvanévesen, 1995-ben vonult vissza. 1998. május 14-én halt meg Los Angelesben, szívroham következtében.