Hiába jöttek a sikerek, újdonsült felesége, Lil tovább duruzsolt Louis Armstrong fülébe arról, hogy alakítson külön zenekart, amelyben ő lehet az első trombitás és a zenekar vezetője. Valóban, Armstrong egyre szűkebbnek érezte a lehetőségeit Joe King Oliver Creole Jazz Band együttesében, és fájdalommal ugyan, de 1924 tavaszán – utolsóként – kivált a zenekarból.
A jazz évszázada című kötet e-book formátumban megvásárolható a következő webáruházakban:
Ekkoriban alakult New Yorkban egy – mondhatni – kísérleti együttes a zongorista Fletcher Henderson vezetésével. Henderson egy igazi, ösztönös blueszenészt, egy valódi New Orleans-i szellemű és hangzású trombitást keresett a Roseland Caféban játszó zenekara számára. Armstrong személyében megtalálta ezt a zenészt. Henderson együttesében Louis sok újdonsággal találkozott, meg kellett tanulnia a fegyelmezett együttjátékot, megismerkedett a hangszereléssel, a gyors kottaolvasással. Armstrong belépésével megváltozott a Henderson együttesében addigra már kialakult stílus. Hatására a zenekarnak kemény ritmusa lett, stílusa tisztává, pontossá, feszessé vált, mondhatni, Armstrong bevitte a zenekarba a bluest és a szvinget. Henderson együttesének zenésze, Russell Procope Armstrong belépésével kapcsolatban a következőket mondta:
Senki nem tudta, hogy mi a szving, amíg Armstrong meg nem érkezett, és meg nem mutatta nekünk.
Henderson együttesével több olyan számot vett műsorára, amelyet Armstrong hozott magával Chicagóból. Ilyen volt például a Dippermouth Blues, melynek áthangszerelt változata Hendersonéknál a Sugarfoot Stomp nevet kapta.
Armstrong zenei felfogása, stílusa, ereje a zenekar minden tagjára hatással volt, különösen a hangszerelő Don Redman tanult tőle sokat. Mind ritmikai, mind melódiai szabadsága elkápráztatta az együttes zenészeit és a közönséget is. Olyan kapukat nyitott meg a zenekari játékban, amelyek addig teljesen ismeretlenek voltak számukra.
A sikerek dacára Armstrong nem maradt sokáig Henderson együttesében. Úgy érezte, túl szűk korlátok közé szorítja őt a zenekarvezető, az együttes stílusa és a számára szokatlan fegyelem. Abban az időben, amikor Hendersonnal játszott, még két másik formációban is szerepelt. Az egyik Clarence Williams Blue Five nevű zenekara volt, a másik a nagy Bessie Smith kísérőegyüttese. A kiváló bluesénekesnővel készült felvételek közül kiemelkedő a St. Louis Blues, amely 1925 januárjában készült.
Armstrong visszatért Chicagóba, ahol 1925 decemberében megalapította saját együttesét Hot Five néven. Olyan zenészekből állította össze a zenekart, akiket jól ismert, a zongorista – természetesen – Lil Armstrong, a harsonás a régi New Orleans-i ismerős, Kid Ory, a klarinétos Johnny Dodds, a bendzsós Johnny St. Cyr volt.
Armstrong játékában felfedezhetünk olyan elemeket, amelyeket a New York-i kirándulásról hozott magával. Zenéjében újdonságként jelent meg az összefüggő szólójáték – a dallammal ritmikusan szökdécselt, néha elszaladt, majd lemaradt, olykor meg-megállt, mindez energiával telve, játékosan, ugyanakkor spirituális erővel szólalt meg.
Igazán nagy újdonságnak az számított, hogy Louis kitalált egy új énekes műfajt, a scatet, a halandzsaszöveggel előadott énekes improvizációt. Ezzel kapcsolatban sokféle mendemonda kering még ma is, de nem is az a lényeg, hogy mi indította el ezt a fajta éneklést, hanem az, hogy új stílus született, amely azóta is virágzik. Nemcsak virágzik, hanem minden jazzénekesnél a legfontosabb előadási mód, amelyben kibontakoztathatja saját stílusát, bemutathatja tehetségét, felkészültségét.
Az első olyan felvétel, amelyben Armstrong énekes improvizációt produkál, Heebie Jeebies címmel került lemezre. Állítólag a hangszeres rögtönzés közben leesett a kottaállványról a szöveget tartalmazó papírdarab, Armstrong pedig nem tudta kívülről a szöveget, így kénytelen volt kamu szöveget énekelni. Ebből lett a scat. Ha nem így volt, akkor is érdekes történet.