Una vita dedicata al calcio: da giocatore giovanili della Roma, con cui esordì anche tra i professionisti nel 1959. Nel 1960 il grande amore da calciatore: l’Ascoli, con cui collezionò ben 219 presenze e 11 reti in poco meno di 10 stagioni. Ascoli che diede anche i natali alla carriera da allenatore, con 7 anni tra giovanili e prima squadra tra 1969 e 1975. La sua carriera da allenatore è durata quasi 40 anni, sulle panchine di Ascoli, Fiorentina, Catanzaro, Bologna, Lecce, Pescara, Cagliari, Roma (allenarla fu per lui un sogno realizzato), Napoli, Perugia, Brescia e Livorno, con cui ha stabilito il record di panchine nella storia del calcio italiano, con 1.278 ufficiali. A Carlo Mazzone è intitolata dal 2019 la Tribuna Est dello Stadio Cino e Lillo del Duca della città marchigiana.
Da allenatore furono soprattutto due i giocatori a essere da lui più amati: Francesco Totti e Roberto Baggio. Fu fondamentale per lanciare la carriera di Totti: lo allenò per tre anni tra 93 e 96 e in quei tre anni ne limitò l’impatto mediatico, lo istruì in campo e lo aiuto a crescere come persona oltre che come calciatore prendendolo sotto la sua ala protettiva. Per Baggio invece Mazzone fu l’ultimo allenatore prima del ritiro, che gli consentì di brillare al massimo sul tramonto di carriera a Brescia. Il rapporto tra i due è rimasto fortissimo da quel momento.
