Egyszerű fekete családba született; édesanyja és az utca nevelte. Tinédzserévei kezdetén javítóintézetbe küldték, mert elsütött az utcán egy kölcsönvett pisztolyt. Pályafutása 1917-ben kezdődött: New Orleansban King Oliver zenekarában kornettózott. 1922-ben Chicagóba már mint híres muzsikust hívják. 1924-ben feleségül vette a zenekar zongoristáját, Lillian Hardint, New Yorkba mentek, s itt Armstrong a Fletcher Henderson zenekar tagja lett. Egy év után visszament Chicagóba, saját combókat alakított. Az évtized végére az egész országban keresett lett, felvételeket készített, stílusa a szólóvirtuozitás irányában változott. Az 1930-as évektől a kornettót a trombitára cserélte fel. 1932-33-ban tette első körútját Európában – zajos sikerrel. Csodálatos hangszertechnikai tudása kimeríthetetlen rögtönző képzelettel párosult. Amikor játéka már nem számított a legkorszerűbbnek, a dzsesszben tökéletes hangszerként működő rekedt torokhangjával bűvölte el a közönséget. Több mint ötven filmben játszott, s 1965-ben Budapesten is fellépett. (Egyes források szerint 1901-ben született.)
