Het museum bevindt zich in het "HIHOF", een bijgebouw van het voormalige gesticht van Echternach. Dit gotische gebouw ligt aan de voet van de Sint-Petrus-en-Sint-Paulus parochiekerk, op de hoek van de rue des Tanneurs en de rue du Pont. Vanaf 1856 waren hier lange tijd het progymnasium en de eerste staatslandbouwschool gevestigd. Daarna kreeg het een woonbestemming.
Tegen het einde van de Tweede Wereldoorlog raakte het gebouw ernstig beschadigd. De restauratie van dit historische gebouw duurde van 1978 tot 1984.
Tegenwoordig is het de laatste getuige van de voormalige wijken "a Kack" en "am Saak" van het oude Echternach.
Op 16 augustus 1984 werd het Prehistorische Museum in het "HIHOF" plechtig geopend.