Jim McCaffrey III rozpoczął pracę w sklepach spożywczych jako student college’u. W 1980 roku, McCaffrey otworzył swój pierwszy biznes, delikatesy zlokalizowane w Northeast, Filadelfia. Wraz z synem Jimem McCaffrey IV, McCaffrey III otworzył McCaffrey’s Food Market w Yardley, Pennsylvania w 1986 roku. Rozszerzony sklep spożywczy zawierał produkty, nabiał, i delikatesy sekcji obok szerokiego wyboru detalicznych artykułów spożywczych.
W 1992 roku, McCaffrey’s rozszerzył się o nową lokalizację w Princeton, NJ.
W 1996, McCaffrey’s rozszerzył z nową lokalizacją w West Windsor, New Jersey.
Na 29 lutego 2004 klienci McCaffrey’s supermarket w Yardley, Pensylwania zauważył płomienie pochodzące z krzewów i liści przylegających do południowej ściany budynku. Dwóch dyżurnych z Departamentu Policji Lower Makefield Township, Bucks County, Pennsylvania zauważyło dym około godziny 16:12 i skontaktowało się z dyspozytorem lokalnej straży pożarnej. Oficerowie Glen Hamilton i Jason Braim weszli do sklepu i pomogli ewakuować blisko 200 klientów i pracowników znajdujących się w środku. Według raportów, przybycie na miejsce zdarzenia straży pożarnej Yardley-Makefield Fire Company, która znajduje się naprzeciwko centrum handlowego Edgewood Village, zajęło prawie 35 minut, a kolejne 17 minut zajęło pompowanie wody. Ogień został opanowany około 5pm, ale opuścił budynek i dach poważnie damaged.
Szybko po pożarze, McCaffrey’s wzniesiony 10.000 stóp kwadratowych namiot na parkingu Edgewood Village Shopping Center. Wyposażony w energię elektryczną, chłodnictwo i wodno-kanalizacyjnych, prowizoryczny sklep wyposażony w pełną obsługę delikatesów, żywności gotowej, w sklepie piekarni i działów mięsnych, jak również ograniczony wybór artykułów spożywczych.
Na 15 lipca 2012, McCaffrey’s otworzył Newtown, Pennsylvania lokalizacji w byłym miejscu supermarketu Genuardi’s.
Na 21 kwietnia 2016, McCaffrey’s otworzył nowy, mniejszy 13.000 stóp kwadratowych koncept rynku smakoszy nazwie Simply Fresh w Doylestown, Pensylwania w miejscu dawnego salonu samochodowego Ford Motor Company.
Na 22 lipca 2016, McCaffrey’s otworzył 50.000 stóp kwadratowych supermarket w Blue Bell, Pensylwania w byłym Super Fresh, wyposażony w ogródek piwny i smakoszy przygotowane stacje food.
Na 9 stycznia 2020, McCaffrey’s rozszerzył z nową lokalizacją w New Hope, Pensylwania. Również we wrześniu 2020 roku, lokalne media pokryte emeryturę długoletniego współpracownika Murray Davidson po 22 latach pracy w oryginalnej lokalizacji McCaffrey’s w Yardley, PA.
.