13 évesen kezdett el trombitálni. Még tizenéves volt, amikor olyan legendás muzsikusokkal került össze, mint Charlie Parker és Max Roach. 1948-ban Capitol Orchestra néven kilenctagú együttest hozott létre. Ezzel a zenekarral rögzítette 1949-ben Birth of Cool című lemezét, amelynek megjelenése a cool-korszak nyitányát jelentette, mivel addig a bebop-stílus volt az uralkodó. 1949 után egy fiatal muzsikusnemzedéket (Herbie Hancock, Joe Zawinul, Wayne Shorter, Airto Moreira, Chick Corea és John McLaughlin) nevelt fel, akikkel azután a műfaj történetének legnagyobb váltását hajtotta végre: megteremtette a populárisabb hangzású dzsesszrockot. Emiatt sok támadás érte, kritikusai szerint az új hangzás tönkretette a dzsessz alapját, a bluest, a rögtönzést, de ő nem törődött ezekkel a véleményekkel, ment tovább a maga útján. Utolsó éveiben már olyan partnerei volt, mint Sting, Prince, trombitája mellett szintetizátorokat is megszólaltatott, és újabb tehetségeket fedezett fel. Stílusteremtő művész volt, a modern dzsessz legjelentősebb újító egyénisége. Kárminpiros trombitájával kétszer járt Magyarországon: 1989-ben és 1991-ben felejthetetlen koncerteket adott a Budapesti Sportcsarnokban.