Davis je skupino, ki se je prvotno imenovala The Rhythm & Blues Quartet, ustanovil leta 1963 v Birminghamu skupaj s Stevom Winwoodom na klaviaturah in vokalu, njegovim bratom Muffom Winwoodom na baskitari in Petom Yorkom na bobnih. V The Spencer Davis Group so se preimenovali v letu po ustanovitvi.

Kmalu so zasloveli s pesmimi Keep On Running (priredba pesmi, ki jo je napisal Jackie Edwards), Gimme Some Lovin' in I'm A Man. The Spencer Davis Group velja za del t. i. britanske invazije, ko so zasedbe, kot so The Who in The Rolling Stones, s svojimi uspešnicami osvajale ZDA. Kljub temu pa se Davisova skupina v tistih časih ni odpravila na ameriško turnejo, piše BBC.

Brata Winwood sta leta 1967 zapustila skupino, pri čemer je Steve ustanovil zasedbo Traffic, Muff pa se je podal na uspešno pot v glasbenem založništvu. Zasedba je prenehala delovati julija 1969, vendar se je na kratko znova obudila med letoma 1973 in 1974. Davis se je v naslednjem letu preselil v ZDA, kjer je nadaljeval samostojno kariero, ki pa ni dobila pravega zagona.

V 70. letih je bil dejaven v založniškem poslu, in sicer pri znameniti Island Records, kjer je med drugim prispeval tudi prepoznavnosti glasbenikov, kot sta bila Robert Palmer in Bob Marley. V tistem času je obudil glasbeno sodelovanje s Stevom Winwoodom, ki se je vse bolj uveljavljal kot samostojni glasbenik.

Koncertiranje vse do leta 2017
Davis se je pozneje znova odpravljal na turneje in tako je pod imenom The Spencer Davis Group sicer brez bratov Winwood koncertiral od 90. let dalje. Zasedba je nazadnje igrala skupaj v letu 2017, pri čemer je Spencerja ena skupina glasbenikov spremljala na turneji po Evropi in ena po ZDA, piše New Musical Express.

Davis je umrl 19. oktobra v bolnišnici, kjer se je zdravil zaradi pljučnice, je za BBC povedal njegov agent Bob Birk. Označil ga je za dobrega prijatelja in ga opisal kot "zelo etičnega, zelo nadarjenega, dobrega srca, izjemno inteligentnega, radodarnega človeka. Pogrešali ga bomo." Za seboj je pustil dolgoletno partnerico June in njune tri odrasle otroke.