Jim McCaffrey III a început să lucreze la magazinele alimentare când era student la facultate. În 1980, McCaffrey și-a deschis prima afacere, un magazin de delicatese situat în nord-estul orașului Philadelphia. Împreună cu fiul său Jim McCaffrey IV, McCaffrey III a deschis McCaffrey’s Food Market în Yardley, Pennsylvania, în 1986. Magazinul alimentar extins a prezentat secții de produse alimentare, lactate și delicatese, alături de o selecție largă de produse alimentare cu amănuntul.
În 1992, McCaffrey’s s-a extins cu o nouă locație în Princeton, NJ.
În 1996, McCaffrey’s s-a extins cu o nouă locație în West Windsor, New Jersey.
La 29 februarie 2004, clienții supermarketului McCaffrey’s din Yardley, Pennsylvania, au observat flăcări care ieșeau din tufișuri și frunze adiacente peretelui sudic al clădirii. Două oferte de poliție aflate în timpul serviciului de la Lower Makefield Township, Bucks County, Departamentul de Poliție din Pennsylvania au observat fumul în jurul orei 16:12 și au contactat dispeceratul local de pompieri. Ofițerii Glen Hamilton și Jason Braim au intrat în magazin și au ajutat la evacuarea celor aproape 200 de clienți și angajați aflați înăuntru. Rapoartele susțin că a durat aproape 35 de minute până când Compania de pompieri Yardley-Makefield, care se află chiar vizavi de Edgewood Village Shopping Center, a ajuns la fața locului și alte 17 minute până când au început să pompeze apă. Incendiul a fost stăpânit în jurul orei 17:00, dar a lăsat clădirea și acoperișul grav avariate.
La scurt timp după incendiu, McCaffrey’s a ridicat un cort de 10.000 de metri pătrați în parcarea de la Edgewood Village Shopping Center. Echipat cu electricitate, refrigerare și instalații sanitare, magazinul improvizat a oferit un serviciu complet de delicatese, mâncăruri preparate, secții de panificație și carne în magazin, precum și o selecție limitată de produse alimentare.
La 15 iulie 2012, McCaffrey’s a deschis o locație în Newtown, Pennsylvania, în fostul sediu al unui supermarket Genuardi.
La 21 aprilie 2016, McCaffrey’s a deschis un nou concept de piață gastronomică mai mică, cu o suprafață de 13.000 de metri pătrați, numită Simply Fresh, în Doylestown, Pennsylvania, pe locul unei foste reprezentanțe auto Ford Motor Company.
La 22 iulie 2016, McCaffrey’s a deschis un supermarket de 50.000 de metri pătrați în Blue Bell, Pennsylvania, într-un fost Super Fresh, cu o grădină de bere și stații de mâncare pregătită gourmet.
La 9 ianuarie 2020, McCaffrey’s s-a extins cu o nouă locație în New Hope, Pennsylvania. De asemenea, în septembrie 2020, presa locală a acoperit retragerea asociatului de lungă durată Murray Davidson, după 22 de ani de muncă la locația originală McCaffrey’s din Yardley, PA.
.