El lugar que hoy ocupa nuestra Mezquita, Catedral parece haber estado, desde antiguo, dedicado al culto de diferentes divinidades. Bajo dominación visigoda se construyó en este mismo solar la basílica de San Vicente, sobre la que se edificó, tras el pago de parte del solar, la primitiva mezquita. Esta basílica, de planta rectangular fue compartida por los cristianos y musulmanes durante un tiempo. Cuando la población musulmana fue creciendo, la basílica fue adquirida totalmente por Abderraman I y destruida para la definitiva construcción de la primera Mezquita Alhama o principal de la ciudad. En la actualidad algunos elementos constructivos del edificio visigodo se encuentran integrados en el primer tramo de Abderraman I.
