In Zusammenarbeit mit den KI-Entwicklern Mistral AI und SAIL Reply entsteht im Rahmen dieses Projekts Apollo, das erste multimodale große Sprachmodell (LLM) für Altgriechisch. Apollo ist auf die Rekonstruktion fragmentarischer Texte optimiert und ebnet den Weg für fortschrittliche Transkriptionswerkzeuge zur Entzifferung antiker Dokumente. Dies markiert den Beginn einer Reihe von LLMs für historische Sprachen, die im Rahmen des Projekts „Decoding Antiquity“ entwickelt werden.
In den letzten zehn Jahren wurde die generative KI durch den Aufstieg fortschrittlicher großer Sprachmodelle (LLMs) revolutioniert, die auf einer Transformer-Architektur basieren und bei einer Vielzahl von Aufgaben im Bereich der natürlichen Sprache hohe Leistungsfähigkeit erzielen. Durch die Nutzung riesiger Sprachdatenmengen ermöglichen LLMs eine komplexe Auseinandersetzung mit Texten in zahlreichen Sprachen und erleichtern die Navigation und Analyse umfangreicher Textarchive. In den letzten drei Jahren haben LLMs multimodale Fähigkeiten erworben, um visuelle Eingaben und in Bildern eingebettete Texte zu verarbeiten. Dazu gehört auch die Entzifferung von Handschriften, was neue Horizonte für die Arbeit mit historischen Dokumenten eröffnet.
Unter Nutzung dieser Durchbrüche in der KI entwickelt dieses Projekt Apollo, das erste multimodale LLM für Altgriechisch. Das Modell wurde auf einem umfangreichen Datensatz trainiert, der mehr als 600 Millionen Wörter des vormodernen und frühneuzeitlichen Griechisch umfasst – dem bislang größten digitalen Korpus historischer griechischer Quellen aus dem öffentlichen Bereich. Das KI-System wurde mittels Curriculum-Lernen auf chronologisch geordneten Datensätzen trainiert, um das chronologische Bewusstsein zu fördern. Zudem wurde das Modell für die Textrekonstruktion optimiert, eine zentrale Forschungsaufgabe bei der Arbeit mit oft beschädigten und fragmentarischen antiken Texten. Nach seiner Veröffentlichung, begleitet von Leistungsmetriken und den Ergebnissen von Evaluierungsexperimenten, wird Apollo open access gehostet.
Das Apollo KI-System ist als offene digitale Forschungsinfrastruktur konzipiert, die durch zusätzliches Training verbessert und von der Forschungsgemeinschaft in verschiedene Richtungen weiterentwickelt werden kann, darunter Systeme der Retrieval-Augmented-Generation (RAG) und Vision-Language-Modelle (VLMs) für die Erforschung antiker Dokumente. Apollo ist das erste fortschrittliche LLM für eine historische Sprache, das im Rahmen des Projekts Decoding Antiquity gemeinsam mit Mistral AI und SAIL Reply entsteht.
10/2025-09/2026
