Zgodnie ze starożytną lokalną tradycją, 2 stycznia roku AD 40, Dziewica Maryja ukazała się Jakubowi nad brzegiem rzeki Ebro w Cezaraugusta, podczas gdy on głosił Ewangelię w Hiszpanii. Ponoć ukazała się na filarze, Nuestra Señora del Pilar, i filar ten jest zachowany i czczony w obecnej Bazylice Matki Bożej Filarnej w Saragossie, w Hiszpanii. Po tym objawieniu św. Jakub powrócił do Judei, gdzie został ścięty przez króla Heroda Agryppę I w 44 roku.
Tłumaczenie jego relikwii z Judei do Galicji w północno-zachodniej części Iberii odbyło się, według legendy, przez serię cudownych wydarzeń: ścięty w Jerozolimie mieczem przez samego Heroda Agryppę, jego ciało zostało zabrane przez anioły, a następnie popłynął bez steru, bez nadzoru, łodzią do Iria Flavia w Hiszpanii, gdzie masywna skała zamknęła się wokół jego relikwii, które zostały później przeniesione do Composteli. XII-wieczna Historia Compostellana podaje streszczenie legendy o św. Jakubie, tak jak wierzono w Compostelę. Jakuba głosił Ewangelię zarówno w Hiszpanii, jak i w Ziemi Świętej; po drugie, po męczeńskiej śmierci z rąk Heroda Agryppy I jego uczniowie przenieśli ciało drogą morską do Hiszpanii, gdzie wylądowali w Padrón na wybrzeżu Galicji, a następnie zabrali je w głąb lądu, aby pochować w Santiago de Compostela.
Autentyczność świętych relikwii Composteli została potwierdzona w bulli papieża Leona XIII, "Omnipotens Deus" z 1 listopada 1884 roku.
Tradycja w Composteli polegała na odkryciu relikwii świętego w czasach króla Alfonsa II (791-842) i biskupa Teodemira z Irii. Tradycje te były podstawą do szlaku pielgrzymkowego, który rozpoczął się w 9 wieku, a sanktuarium poświęcone Jakubowi w Santiago de Compostela, w Galicji w Hiszpanii, stał się najbardziej znanym miejscem pielgrzymek w świecie chrześcijańskim. Droga św Jakuba to drzewo tras, które przecinają Europę Zachodnią i docierają do Santiago przez północną Hiszpanię. Ostatecznie Jakub stał się patronem Hiszpanii.
Nazwa "James" w języku angielskim pochodzi od "Iacobus" (Jakub) w języku łacińskim. We wschodniej Hiszpanii, Jacobus stał się "Jacome" lub "Jaime"; w Katalonii stał się Jaume, w zachodniej Hiszpanii stał się "Iago", a w Portugalii i Galicji był Tiago. "Święty Jakub" ("Sanctus Jacobus") stał się "Sant' Iago", który został skrócony do Santiago. Godło Jakuba było muszlą przegrzebka (lub "muszlą koguta"), a pielgrzymi do jego sanktuarium często nosili ten symbol na czapkach lub ubraniu.