El Museo de Úbeda se creó como Sección del Museo de Jaén según un decreto de 1972 (964/1972 de 16 de marzo) con el fin de "reunir, conservar y exponer en él cuantas obras de interés artístico, arqueológico e histórico sirvan de elemento educativo y sean exponentes de la historia y la cultura de aquella localidad".

Como sede del museo se eligió una casa mudéjar, descubierta durante unas obras en 1964. Se realizaron obras de restauración, acomodándola para Museo Arqueológico. Fue inaugurado como tal el 18 de Enero de 1973, siendo su fundador y primer director Don Rafael Vañó Silvestre, quien además cedió su colección particular. No obstante, los fondos, de carácter arqueológico, procedían en su mayor parte del Museo de Jaén.

Esta casa se sitúa en la antigua colación de San Pablo, donde se conserva fosilizada la traza mudéjar de la ciudad. Es un entramado de calles estrechas, con adarves y angostos callejones, distribuidos en manzanas irregulares, donde hallamos un gran número de edificios bajomedievales, no sólo palacios, sino también sencillas viviendas.

La casa sede del Museo Arqueológico es un interesante ejemplo de arquitectura doméstica mudéjar, de entre los siglos XIV y XV. Se organiza en torno a un patio central, con cuatro galerías abiertas a las que dan las distintas dependencias. El acceso actual se realiza a través de un porche con una arquería que, en origen, fue la galería que daba paso a un corral o jardín, en el que con posterioridad se construyó la vivienda contigua. La arquería está compuesta por cuatro arcos túmidos con despiece de dovelas, en las que aún pueden verse las antiguas marcas de los canteros, sustentados por pilares ochavados con basas decoradas con bolas y capiteles poliédricos con decoración vegetal que recuerda la forma de ataurique.

El patio adintelado en torno al cual se distribuyen las distintas salas y dependencias,  está también sustentado por este tipo de columnas, aunque el capitel es diferente, pues se trata de bloques cuadrados decorados con escudos.

La casa, convertida en casa de vecinos, se remodeló para museo, conservando la estructura en torno a un patio, pero utilizando también elementos arquitectónicos procedentes de otras casas de Úbeda como la portada de entrada.

El espacio expositivo ha de adaptarse a las características del edificio sede del Museo y se extiende tanto a las tres salas como al porche de entrada, patio, entrepatio y galería alta.