Inicjatorami Muzeum Diecezjalnego byli ks. Józef Rokoszny i ks. Jan Wiśniewski, którzy w czasach zaborów gromadzili pamiątki przeszłości, aby uchronić je przed zapomnieniem i zniszczeniem. W 1902 r. ks. Rokoszny zwrócił się do kapituły katedralnej z inicjatywą utworzenia muzeum diecezjalnego. Pierwsze zbiory gromadzono w katedralnym kapitularzu, a później w dawnym klasztorze sióstr benedyktynek w Sandomierzu, który po kasacie w 1903 r. został przejęty przez Seminarium Duchowne... 

Zanim powstała obecna kolegiata, w jej miejscu istniał romański kościół p.w. Panny Marii, który został wybudowany w połowie XII wieku. Kościół był siedzibą kapituły kolegiackiej. Fundatorem romańskiego kościoła był prawdopodobnie Henryk Sandomierski, który z tego powodu został przedstawiony na gipsowej posadzce krypty wraz z Kazimierzem Sprawiedliwym, jego żoną i synami. Płyta Orantów (postacie w pozycji modlitewnej) jest najcenniejszym zabytkiem bazyliki. Krypta bazyliki, choć należy do świątyni, jest częścią Muzeum Archeologicznego w Wiślicy, które z kolei jest oddziałem Muzeum Narodowego w Kielcach.

Muzeum Archeologiczne w Wiślicy powstało 20 maja 1966 roku, jako odpowiedź na dużą ilość zabytków odkrytych podczas badań archeologicznych w latach powojennych. Głównym celem było zabezpieczenie i udostępnienie pozostałości architektonicznych – kościoła św. Mikołaja wraz z hipotetycznym baptysterium oraz zabytków odkrytych w podziemiach kolegiaty. Wybudowany w roku 1964 roku pawilon szybko uległ degradacji i na początku lat 80-tych szukano nowej siedziby dla muzeum. Nowej siedziby nie znaleziono, za to w roku 1986 rozpoczęto remont pawilonu, w wyniku którego stan budynku się... pogorszył.