Jim McCaffrey III začal pracovat v obchodech s potravinami už jako vysokoškolský student. V roce 1980 si McCaffrey otevřel svůj první podnik, lahůdkářství nacházející se na severovýchodě Filadelfie. Spolu se svým synem Jimem McCaffreyem IV otevřel McCaffrey III v roce 1986 obchod McCaffrey’s Food Market ve městě Yardley v Pensylvánii. Rozšířený obchod s potravinami obsahoval vedle širokého výběru maloobchodního potravinářského zboží také oddělení s produkty, mléčnými výrobky a lahůdkami.
V roce 1992 se společnost McCaffrey’s rozšířila o novou pobočku v Princetonu ve státě New Jersey.
V roce 1996 se společnost McCaffrey’s rozšířila o novou pobočku ve West Windsoru ve státě New Jersey.
Dne 29. února 2004 si zákazníci supermarketu McCaffrey’s v Yardley v Pensylvánii všimli plamenů vycházejících z keřů a listí přiléhajících k jižní stěně budovy. Dvě policejní nabídky ve službě z policejního oddělení Lower Makefield Township, Bucks County, Pennsylvania spatřily kouř přibližně v 16:12 a kontaktovaly místní hasičský dispečink. Policisté Glen Hamilton a Jason Braim vstoupili do obchodu a pomohli evakuovat téměř 200 zákazníků a zaměstnanců uvnitř. Podle zpráv trvalo téměř 35 minut, než na místo dorazila hasičská společnost Yardley-Makefield, která sídlí přímo naproti nákupnímu centru Edgewood Village, a dalších 17 minut, než začala čerpat vodu. Požár se podařilo lokalizovat kolem 17. hodiny, ale budova a střecha zůstaly značně poškozené.
Krátce po požáru postavila společnost McCaffrey’s na parkovišti u nákupního centra Edgewood Village stan o rozloze 10 000 čtverečních stop. Provizorní prodejna, vybavená elektřinou, chladicím zařízením a vodovodem, nabízela kompletní služby v oblasti lahůdek, hotových jídel, oddělení pečiva a masa přímo v prodejně a také omezený výběr potravin.
15. července 2012 otevřela společnost McCaffrey’s pobočku v Newtownu v Pensylvánii na místě bývalého supermarketu Genuardi’s.
Společnost McCaffrey’s otevřela pobočku v Newtownu v Pensylvánii.
Dne 21. dubna 2016 otevřela společnost McCaffrey’s v Doylestownu v Pensylvánii na místě bývalého autosalonu Ford Motor Company nový, menší koncept gurmánského marketu o rozloze 13 000 čtverečních metrů s názvem Simply Fresh.
Dne 22. července 2016 otevřela společnost McCaffrey’s supermarket o rozloze 50 000 čtverečních stop v Blue Bell v Pensylvánii v bývalém Super Fresh s pivní zahrádkou a stanicemi s gurmánskými hotovými jídly.
Dne 9. ledna 2020 se společnost McCaffrey’s rozšířila o novou pobočku v New Hope v Pensylvánii. V září 2020 také místní média informovala o odchodu dlouholetého spolupracovníka Murraye Davidsona do důchodu po 22 letech práce v původní provozovně McCaffrey’s v Yardley ve státě Pensylvánie.