A hitelkártya koncepcióját először 1887-ben Edward Bellamy írta le, Looking Backward című regényében. A műben egy utopisztikus társadalom polgárai használtak efféle kártyákat, arra, hogy a kormányzattól kapott járandóságukat ezúton költsék el. A XIX. század második felében már sok helyen használtak olyan pénzhelyettesítő eszközöket, amelyekkel a fogyasztók kiválthatták a készpénzes fizetést. Ezek egy része még a pénzérmékre hasonlított, másokat alumíniumból, rézből, vagy celluloidból készítették. Az ilyen eszközöket a megbízható, rendszeres vásárlóknak adták, akik számlát vezettek különféle áruházakban vagy szállodákban.
Ezek jellemzően még úgy működtek, hogy a tulajdonos számlaszámát tartalmazták, amelyet így könnyen és gyorsan fel lehetett vinni a számlákra, illetve, amely így kizárta a tévedés lehetőségét. Az első kártyaformájú fizetőeszközöket a Western Union kezdte alkalmazni 1921-ben. A negyvenes évekre az Egyesült Államokban pedig széles körben elterjedt a benzinkutakon használható fizetőkártyák intézménye, amelyet az egyre terjedő autózás segített népszerűsíteni.
A hitelkártya első valódi ősének a Charga-Plate nevű eszköz tekinthető, amelyet 1928-ban fejlesztettek ki. Ez egy 6,5 centiméter oldalhosszúságú és közel négy centi magasságú fémlap volt, amelybe bevésték a tulajdonos legfontosabb adatait. Fizetéskor a kártyát egy erre a célra gyártott lap mélyedésébe helyezték, majd egy papírt helyeztek rá, amelyre rányomtatták a kártyán látható, dombornyomott adatokat. A Charga-Plate-rendszert a Farrington Manufacturing fejlesztette ki, kártyáikat az ötvenes évek végéig használták az USA területén.
1934-ben az American Airlines bevezette az Air Travel Card intézményét, amelynek tulajdonosai már vásárolhattak hitelkeretük terhére repülőjegyeket, sőt, még kedvezményt is kaptak, ha így fizettek. 1941-re a légitársaság bevételeinek csaknem fele származott ilyen kártyás fizetésekből.
Az ötvenes években további területeken is megjelentek a fizetést biztosító kártyák, ilyen volt például a Diners Club és a Carte Blanche is. 1958-ban pedig az American Express létrehozta az első globális hitelkártya-hálózatot. Igaz, ez még inkább emlékeztetett a korábbi fizetőkártyás verziókra, ráadásul sok helyen nem is fogadták el. Ugyanebben az évben a Bank of America elindította a BankAmericard rendszerét, amely az első modern hitelkártyának tekinthető. 1966-ban pedig megszületett a MasterCard elődje, a Master Charge, amely a BankAmericard hálózatával kívánta felvenni a versenyt, sikerrel. Ugyanebben az évben indult az első hitelkáryta-hálózat az USA-n kívül is, ez a brit Barclaycard volt.
1970-re az USA területén már több mint százmillió hitelkártyát használtak, 1973-ban pedig megkezdődött a fizetési procedúra digitalizálása is. Napjainkra a hitelkártyák és bankkártyák száma világszerte több milliárdra rúg.