Chuck Mangione zwrócił na siebie uwagę jeszcze w czasach gry w mainstreamowej, szkolnej orkiestrze jazzowej The Jazz Brothers, gdzie występował ze swoim bratem Gapem. Wówczas styl gry Mangione mocno nawiązywał do trąbki Dizzy Gillespiego. Była to jedna z najsilniejszych inspiracji, które kształtowały jego własny styl, choć jak sam wspomina duży wpływ mieli na niego również Chick Corea i Keith Jarrett z którymi wówczas współpracował. Po opuszczeniu murów dołączył do Jazz Messengers Arta Blakeya, gdzie występowali przed nim m.in. Clifford Brown, Kenny Dorham czy Lee Morgan.
Powrót do Eastman School of Music w charakterze szefa szkolnej orkiestry był kolejnym etapem w karierze muzyka. Wspólny koncert z Rochester Philharmonic Orchestra został zarejestrowany i wydany jako „Hill Where the Lord Hides”. Nagranie to było pierwszym z wielu nominowanych do nagrody Grammy, a Mangione zapewniło pierwszy poważny kontrakt; z wytwórnią Mercury. Współpraca ta zakończyła się po wydaniu jednego z najpopularniejszych albumów muzyka „Land of Make Belive”, który również został nominowany do nagrody Grammy.
Zaraz po rozstaniu z Mercury Records Mangione podpisał kontrakt z A&M Records, dla której wydał dwa znakomite albumy: „Chase The Clouds Away” oraz „Bellavia”. Pierwszy z nich został wykorzystany jako główny motyw podczas transmisji Igrzysk Olimpijskich w 1976 roku, natomiast drugi przyniósł Mangione pierwszą statuetkę Grammy.
Pod koniec lat 70 na rynek trafił największy przebój Mangione: „Feel So Good”. W 1980 roku wydana została jego biografia pod tym samym rytułmem. Był to również rok, kiedy do rąk słuchaczy trafiła ścieżka dźwiękowa do filmu Halla Barleta „Dzieci Sancheza”. Ten dwupłytowy album będący najpopularniejszym w Polsce spośród wydanych przez artystę przyniósł mu Złoty Glob oraz nagrodę Grammy. W tym samym roku jego kompozycja „Give It All You Got” została hymnem Zimowych Igrzysk Olimpijskich, a jej transmisję na żywo oglądały miliony ludzi podczas ceremonii zakończenia igrzysk. W tym samym roku był również gospodarzem i organizatorem koncertu charytatywnego poświęconego ofiarom trzęsienia ziemi we Włoszech. W tym trwającym ponad 8 godzin wydarzeniu wzięli udział m.in. Dizzy Gillespie oraz Chick Corea.
Przez cały okres lat 80. Mangione współpracował z wytwórnią Columia Records, dla której wydał szereg albumów, najważniejsze z nich to: „Love Notes”, „Jurney To A Rainbow”, „Disguise” czy „Save Tonight For Me”. W tym czasie współpracował również z nowojorskimi Yankees, a jego kompozycje towarzyszyły cyklowi rozgrywek All Stars w San Francisco, Chicago i Nowym Yorku.
Po wydaniu w 1989 roku albumów „The Boys From Rochester” oraz „Chuck Mangione Live AT the Village Gate” zawiesił działalność koncertową. Impulsem który przywrócił Mangione światu była śmierć Dizzie Gillespiego w 1994 roku. Mangione podjął wówczas współpracę z audiofilską wytwórnią Chesky Records, dla której nagrał dwa albumy.
Późne lata 90. to triumfalny powrót Mangione na sceny całego świata. Jako pierwszy amerykański muzyk występował w Korei Północnej, gdzie został zaproszony ponownie w 2001 roku aby uczcić pamięć ofiar 11 września.