Le Musée est installé au "HIHOF", annexe de l'ancien hospice d'Echternach. Le bâtiment est situé au pied de l'église paroissiale Saints-Pierre-et-Paul, à l'angle de la rue des Tanneurs et de la rue du Pont. Son origine remonte à l'époque gothique.
Au cours du dernier siècle, le "HIHOF" hébergeait pendant une longue période le Progymnase et la première école agricole de l'Etat à partir de 1856. Ensuite il servait d'habitation.
Vers la fin de la Deuxième Guerre mondiale, il fut fortement endommagé. Les travaux de restauration de ce bâtiment historique ont duré de 1978 à 1984.
Aujourd'hui il est le dernier témoin des anciens quartiers "a Kack" et "am Saak" du vieil Echternach.
Le 16 août 1984, le Musée de Préhistoire au "HIHOF" fut solennellement inauguré.