Der Petersberg spielt für die Geschichte Erfurts eine zentrale Rolle. Im Vorfeld des Neubaus für das Bundesarbeitsgericht fanden 1996/97 archäologische Untersuchungen statt. Dabei wurden Teile einer jungsteinzeitlichen Siedlung ausgegraben.
Die älteste noch erhaltene bauliche Substanz findet man in der Peterskirche, die das einzige erhaltene Gebäude des gleichnamigen Klosters darstellt. In Vorbereitung der geplanten Neugestaltung des Petersbergplateaus fanden archäologische Voruntersuchungen statt, bei denen Häuser und Reste dieses Klosters freigelegt wurden. Sie sind heute nicht zu sehen.
Obwohl der Bau der Festungsanlage ab dem 17. Jahrhundert sehr umfangreiche Bodeneingriffe zur Folge hatte, konnten immer wieder mittelalterliche Siedlungsspuren nachgewiesen werden. Die ältesten sind Gräber des 9. Jahrhunderts. Archäologische Untersuchungen im Zuge von Kanalverlegungen im Straßenbereich vor Haus Nr. 12 brachten zudem mehrere Bestattungen, Teile von mittelalterlichen Häusern sowie zwei sehr fundreiche mittelalterliche Latrinenschächte zutage.
Ein weiterer sichtbarer Baurest ist die Leonhardskirche zwischen dem Landesamt für Denkmalpflege (Petersberg 12) und dem neu errichteten Infogebäude. Nach verschiedenen Umbauphasen fiel sie einem Bombenangriff im 2. Weltkrieg zum Opfer. Nach ihrer Freilegung Anfang der 1990er Jahre wurden die Mauerzüge ergänzt. Abgesehen von kleinen Voruntersuchungen fanden bisher keine archäologischen Untersuchungen in der Kirche statt.
Ein Teil der Stadtbefestigung ist am Zugang auf den Petersberg von der Biereyestraße aus zu sehen: Der sogenannte Glockenturm oder Hohe Turm, dessen Baubeginn für 1413 überliefert ist. Ursprünglich muss er eine Höhe von rund 30 m besessen haben. Der Abbruch erfolgte um 1900 mit dem Bau der Zufahrtstraße auf den Petersberg. Die Stadtmauer- und Turmfundamente wurden 2001 freigelegt und durch mit Steinen gefüllte Drahtkörbe andeutungsweise wieder aufgemauert.
Auf dem Gelände befand sich auch ein sogenanntes Hornwerk, ein durch einen tiefen Graben geschütztes, inselartiges Plateau, als westliche Vorbefestigung der Zitadelle Petersberg. Es wurde ab 1720 angelegt und im 19. Jahrhundert eingeebnet. Die Konturen des Hornwerks wurden bei der Gestaltung der Freifläche in Form eines Wasserbeckens aufgenommen.
Informationen zum Umbau des Petersbergplateaus und zu den mittelalterlichen Gebäuden und Abfallgruben können den Tafeln im Info-Zentrum auf dem Petersbergplateau entnommen werden.