Angefangen hatte es damit, dass engagierte Weimarer ihre umfangreichen Sammlungen der Öffentlichkeit zugänglich machen wollten. Das ursprünglich 1889 am Herderplatz eingerichtete Museum erlangte schnell so große Beliebtheit, dass die Bestände bereits drei Jahre später in das Posecksche Stadtpalais umziehen mussten. Die Funde des frühen Neandertalers aus Ehringsdorf, seiner Werkzeuge und seiner Jagdbeute brachten dem seit 1903 städtischen Museum überregionale Bekanntheit. Großes Aufsehen erregten auch die kostbaren Funde aus den 1913 entdeckten germanischen Fürstengräbern von Haßleben. Nach dem zweiten Weltkrieg entwickelte sich das Museum zu einem archäologischen Forschungsinstitut von internationalem Rang, das seit 1953 als Museum für Ur- und Frühgeschichte für ganz Thüringen zuständig ist.
Heute umfasst die Sammlung ca. 300.000 Inventareinheiten mit mehreren Millionen Objekten aus dem gesamten Land. Darunter solche von internationaler Bedeutung wie die altsteinzeitlichen Funde von Bilzingsleben, die Funde vom größten Gräberfeld der frühen Jungsteinzeit bei Wandersleben oder aus den bronzezeitlichen Kulthöhlen bei Bad Frankenhausen. Fundstücke einer der nördlichsten keltischen Stadtanlagen auf der Steinsburg bei Römhild, aus dem bisher einzigen römischen Marschlager östlich des Wesergebietes in Hachelbich, aus den reichen Gräberfeldern des Thüringer Königreiches von Kaltenwestheim, Gispersleben und Weimar oder den in der Alten Synagoge Erfurt präsentierten Erfurter Schatz zählen ebenfalls dazu.
Bei der Gestaltung der Dauerausstellung legte man bereits in den 1950er Jahren großen Wert auf Anschaulichkeit. Diese Tradition führte 1999 auch die Neugestaltung des heute zum Landesamt für Denkmalpflege und Archäologie gehörenden Museums fort, das jährlich ca. 20.000 Besucher anzieht. Auf etwa 800 m² Ausstellungsfläche wird derzeit die frühe Landesgeschichte Thüringens mit ungefähr 3.000 Originalfunden, Modellen, detailgetreuen Zeichnungen und lebensgroßen Rekonstruktionen präsentiert.
