Urodzony w 1923 roku w Cincinnati, studiował na Uniwersytecie w Wilberforce w stanie Ohio. Grał na perkusji w zespole Benny'ego Parkera. Dla orkiestry Dizzy'ego Gillespie napisał "Cubano Be/Cubano Bop", które swoją premierę miało w Carnegie Hall w 1947 roku i było pierwszą fuzją afro-kubańskich rytmów z jazzem.
Idee Russella utorowały drogę swobodzie harmonicznej, która na przełomie lat 50. i 60. rozsadziła jazz. W roku 1953 ukazało się wydanie jego książki "The Lydian Chromatic Concept of Tonal Organization" (Lidyjska koncepcja organizacji tonalnej). Sformułowane w niej idee tonalnej grawitacji stały się podstawami modalnego jazzu.
W połowie lat 60. Russell przeprowadził się do Szwecji. Współpracował tam ze wschodzącymi gwiazdami skandynawskiego jazzu, Janem Garbarkiem i Jonem Christensenem.
Kiedy w 1969 roku wrócił do USA, poprawa kondycji zdrowotnej pozwoliła mu kontynuować pracę z zespołami; zaczął także wykładać w Konserwatorium Nowej Anglii.
Pod koniec lat 70. założył swój big-band, 14-osobowy zespół The Living Time Orchestra.