Fu costruita per opera dei bizantini nella seconda metà del X secolo durante i lavori di ricostruzione della città voluti dall’imperatore Niceforo II Foca, in seguito al saccheggio della città ad opera dei Saraceni, avvenuto nel 927, quando i musulmani distrussero definitivamente quanto rimaneva dell’antica città greco-romana.
Nel 967, dopo quarant’anni, l’imperatore bizantino, considerato il secondo fondatore di Taranto, si interessò alla città e decise di ricostruirla, edificando l’odierno Borgo Antico, a partire proprio dalla costruzione della cattedrale; in questa operazione sparirono gli ultimi resti della città antica e dell’acropoli. La cattedrale e la sua cripta vennero, infatti, costruite con materiali di spoglio ottenuti dalle precedenti costruzioni, tipicamente greche e romane. Si noti, infatti, come le colonne presenti nella cattedrale siano diverse tra loro, realizzate con rocchi di varie misure e di materiali diversi.
Negli ultimi anni dell’XI secolo l’impianto bizantino venne rimaneggiato e si costruì l’attuale cattedrale a pianta basilicale, in epoca normanna. Tuttavia la vecchia costruzione non fu sostituita del tutto: il braccio longitudinale, ampliato e ribassato, incorporò la navata centrale con la profonda abside della chiesa bizantina, rimasta inalterata; l’altare è posto sotto la cupola e la vecchia navata divenne il transetto, tagliato poi dalle navate laterali, lasciando in vista una serie di colonnine che decoravano l’antica costruzione. Nel 1713 fu aggiunta la facciata barocca, opera dell’architetto leccese Mauro Manieri.
Nell’ottobre 1964 papa Paolo VI l’ha elevata alla dignità di basilica minore.