Tizenhárom évesen kapta első trombitáját, fogorvos apja lepte meg vele, s igencsak nagy tehetséggel fújta, hiszen 18 évesen már Billy Eckstine zenekarában játszott - olyan ifjú titánok társaságában mint Charlie Parker, Dizzy Gillespie és Dexter Gordon. 1945-ben Parker bebop-zenekarának tagja volt, amelynek számos akkoriban készült felvételén már ő is zenélt. 1948-ban a neves hangszerelő, Gil Evans vette pártfogásába, és együttműködésük Gyümölcse a Birth Of The Cool című lemez, amely egy hűvösebb, visszafogottabb stílus előhírnöke volt. Később néhány igen szép lemezt készített Gil Evans nagyzenekarával, de saját kvintettet is alapított, amelybe meghívta a tenorszaxofon óriását, John Coltrane-t, s ez a zenei kapcsolat nagyszerű koncertek és lemezek sorát eredményezte. A hatvanas évek közepétől Davis újabb kvintettet alapított, Coltrane ugyanis a saját útjára indult, de Miles Davis együttese nélküle is nagy sikereket aratott. Az évtized végén megjelent In A Silent Way és a Bitches Brew pedig már Davis dzsessz-rock korszakának nyitánya volt. Pályafutásának hátralévő részében ezt az utat járta, az elektromos hangzások és a rockos ritmusok új lehetőségeivel kísérletezve. Élete utolsó éveiben mint a dzsessz élő klasszikusa járta a világot, némi rezignáltsággal fogadva, hogy közönsége megőrül érte, koncertjein szinte eksztázisba estek hallgatói. Talán mert széleskörű közönsége volt, hiszen nemcsak a dzsessz szerelmesei kedvelték, de a rockrajongók is. A magyar közönségnek kétszer is alkalma volt tapsolni neki; először 1989-ben, majd mindössze fél évvel halála előtt, 1991 márciusában.