Tyrone Fettson syntyi Mississippin Greenvillessä Willie Branchin ja Ora Lee Jonesin lapsena. Joissakin lähteissä hänen syntymäpäiväkseen ilmoitetaan 4. toukokuuta 1938, mutta tutkijat Bob Eagle ja Eric LeBlanc toteavat, että hänen hautajaisilmoituksessaan ilmoitetaan lokakuun 1937 päivämäärä.
Hän muutti isänsä kanssa Saginawiin, Michiganiin, ennen kuin muutti Chicagoon vuonna 1959. Työskennellessään blueslaulaja Freddie Kingin palvelijana/kuljettajana hän alkoi laulaa paikallisilla klubeilla, missä hänet löysi levy-yhtiöiden johtaja/muusikko Harold Burrage. Hänen varhaiset levynsä kaupungin pienille levy-yhtiöille, joita hän esitti nimellä ”Tyrone the Wonder Boy”, eivät menestyneet. Menestyvä chicagolainen levytuottaja Carl Davis kiinnitti hänet vuonna 1968 uuteen levy-yhtiöön, Dakar Recordsiin, jota hän oli perustamassa osana Atlanticin kanssa tehtyä jakelusopimusta, ja ehdotti, että Tyrone muuttaisi nimensä, minkä hän tekikin lainaamalla Carlin sukunimen.
Hänen ensimmäinen julkaisunsa, ”A Woman Needs To Be Loved”, käännettiin, kun sen B-puoli alkoi saada huomiota radiossa. Kappaleessa ”Can I Change My Mind” Davis muutti laulutyyliään pehmeämmällä, anovammalla lähestymistavalla ja sävyllä. Levy ampaisi listoilla ylöspäin ja vietti kolme viikkoa Billboardin R&B-listan kärjessä nousten samalla Hot 100 -listan sijalle 5. Sitä myytiin yli miljoona kappaletta ja se sai kultalevytunnustuksen. Hänen suurin hitti tuli alkuvuodesta 1970, kun ”Turn Back The Hands Of Time” nousi myös R&B-listan ykköseksi ja nousi Hot 100 -poplistan kolmoseksi. Jack Danielsin ja Bonnie Thompsonin kirjoittamaa levyä myytiin myös yli miljoona kappaletta, ja se sai toukokuussa 1970 Recording Industry Association of American myöntämän kultalevyn.
Davis julkaisi seitsemän Dakar-vuotensa aikana noin 25 singleä, joista suurin osa oli Willie Hendersonin tuottamia suuria R&B-myyntihittejä. Lopulta hän palasi kärkisijoille kappaleella ”Turning Point” vuonna 1975. Pian tämän jälkeen Davis siirtyi suuren Columbia-levy-yhtiön palvelukseen ja levytti seuraavien viiden vuoden aikana seitsemän albumia tuottaja Leo Grahamin ja sovittaja James Mackin kanssa, joka oli tehnyt hänen kanssaan yhteistyötä ”Turning Pointin” kohdalla. Columbia-yhtiön suuriin hitteihin kuuluivat ”Give It Up” (numero 2), ”This I Swear” (numero 6) ja ”In The Mood” (numero 6,1979). MTV kutsui häntä ”romanttisen chicagolaisen soulin kuninkaaksi”, ja Davisin havaittu haavoittuvuus ja tyylikkyys tekivät hänet rakastetuksi naispuolisille soul-faneille läpi 1970-luvun.
1982 toi mukanaan levy-yhtiön vaihdon vastaperustettuun itsenäiseen Highriseen ja toisen merkittävän hitin, ”Are You Serious” (numero 3 R&B, numero 57 pop), jonka tuotti jälleen Leo Graham, ja jonka oli kirjoittanut L. V. Johnson. Kun Highrise sulkeutui seuraavana vuonna, Davis siirtyi pieneen Los Angelesin levy-yhtiöön, Ocean Frontiin, jolta puuttui myynninedistämistoimia, jotta se olisi päässyt yhden hänen kiistatta parhaista esityksistään, ”Let Me Be Your Pacifier”, taakse. Vuonna 1991 Davis siirtyi atlantalaiseen Ichiban Records -levymerkkiin ja levytti kolme albumia, joihin kuului myös kappale ”Mom’s Apple Pie”. Vuonna 1994 Davis siirtyi Bellmark/Life Recordsille yhden albumin ajaksi. Davisin päivät suurten listaykkösinä olivat ohi, mutta hän jatkoi suosittuna live-esiintyjänä ja allekirjoitti lopulta vuonna 1996 sopimuksen eteläpohjalaisen blues-levy-yhtiön Malaco Recordsin kanssa, joka nauhoitti hänet useille albumeille. Hän esiintyi myös PBS:n 1970-luvun soul-musiikkia käsittelevässä erikoisohjelmassa vuonna 2004 ja lauloi kappaleen ”Turn Back The Hands Of Time”.
Syyskuussa 2004 sattunut aivohalvaus lopetti hänen uransa, ja komplikaatioiden seurauksena hän kuoli chicagolaisessa sairaalassa 9. helmikuuta 2005 66-vuotiaana.