Vaikka Chicago olikin varsinkin 1920-luvun alkupuolen tärkein jazzkeskus, vietiin myös muissa kaupungeissa jazzin kehitystä eteenpäin. Erityisesti New Yorkissa ja hieman myöhemmin Yhdysvaltojen lounaisosissa, mm. Kansas Cityssä, luotiin pohja 1930-luvun isoille swing-orkestereille.

Jazz oli vielä 1920-luvulla tanssimusiikkia, jota soitettiin isoissa tanssisaleissa. Jotta täysin akustiset yhtyeet kykenivät saamaan riittävän volyymin näihin isoihin saleihin, orkestereihin palkattiin lisää soittajia. Tällöin täytyi myös muuttaa soittotyyliä ja soitinten tehtäviä, koska aiemmat käytännöt eivät enää soveltuneet sellaisenaan uuteen tilanteeseen. New Yorkin ja Kansas Cityn isot orkesterit omaksuivat melko erilaiset tavat lähestyä ison orkesterin soittoa. New Yorkissa, erityisesti Harlemissa, soittaneiden orkestereiden musiikki perustui tarkkoihin sovituksiin sen ajan populaarikappaleista. Tärkein orkesterinjohtaja oli Fletcher Henderson (1897–1952), joka sovittajansa Don Redmanin kanssa loi pohjan 1930-luvun soitinsektioihin jaetulle big bandille.

Hendersonin orkesteri aloitti New Orleans -tyylillä, mutta orkesterin kasvaessa melodiasoitinten polyfonian tilalle tuli soitinsektioita: trumpetit, saksofonit ja pasuunat. Vastapainona tarkoille sovituksille orkesterissa soitti monia vahvoja solisteja. Esimerkiksi Louis Armstrong soitti myös Hendersonin orkesterissa vuosina 1924-25 ja vaikutti tuolloin suuresti käsitykseen solistin asemasta. Toinen tärkeä solisti oli saksofonisti Coleman Hawkins, josta tuli 1930-luvulla yksi swing-aikakauden tärkeimmistä muusikoista. Myös nuori Duke Ellington aloitteli uraansa orkesterinsa kanssa 1920-luvulla New Yorkissa. Pitkä kiinnitys Harlemin Cotton Clubille oli tärkeä tapahtuma hänen urallaan. Sinä aikana Ellingtonista kehittyi johtava jazzsäveltäjä.

Yhdysvaltojen lounaisosissa ja erityisesti Kansas Cityssä soittaneiden orkestereiden sovitukset eivät yleensä olleet tarkkoja, vaan ne perustuivat bluesriffeille ja pitkille sooloimprovisaatioille. Tunnetuin tämän tyylin edustaja lienee Bennie Motenin (1894–1935) Kansas City Orchestra, jonka riveissä aloitti mm. Count Basie.

​