Molekulare Architekten: Wie Künstliche Intelligenz die Strukturbiologie von einer beschreibenden zu einer gestaltenden Disziplin transformiert

I. Einleitung: Das Ende des „Flaschenhalses"

Lange Zeit glich die Strukturbiologie der Arbeit mittelalterlicher Kopisten. Um die Architektur eines einzigen Proteins zu verstehen – jener molekularen Maschinen, die jeden Prozess des Lebens steuern –, waren Jahre mühsamer Arbeit nötig. Wir mussten Proteine isolieren, sie unter prekären Bedingungen kristallisieren und mit Röntgenstrahlen beschießen, um aus den Beugungsmustern ihre dreidimensionale Gestalt zu errechnen. Es war eine Wissenschaft der Geduld, geprägt von einer tiefen Diskrepanz: Wir wussten, dass der genetische Code (die Sequenz) die Information für die Form enthält, aber wir konnten diese Sprache nicht fließend lesen. Das „Protein-Faltungsproblem" galt als der heilige Gral der Biologie.

Dieser Zustand hat sich in den letzten fünf Jahren fundamental gewandelt. Was wir heute erleben, ist kein inkrementeller Fortschritt, sondern ein echter Paradigmenwechsel. Mit dem Aufkommen von Systemen wie AlphaFold¹ und den darauf aufbauenden Technologien hat sich die Strukturbiologie von einer beobachtenden Wissenschaft („Wie sieht dieses Molekül aus?") zu einer vorhersagenden und gestaltenden Disziplin („Wie designe ich ein Molekül mit Funktion X?") gewandelt.

Die Künstliche Intelligenz (KI) fungiert hierbei nicht nur als Beschleuniger, sondern als Übersetzer. Sie erlaubt es uns, Proteine nicht mehr als isolierte physikalische Objekte im Reagenzglas zu betrachten, sondern als digitalisierbare Datenstrukturen. Dies hat weitreichende Konsequenzen für die Methodik, die Kreativität und die theoretische Basis unseres Fachs. Der folgende Essay beleuchtet diese Transformation an der Schnittstelle zwischen akademischer Grundlagenforschung und industrieller Anwendung.

II. Methodik: Von der Sequenz zur Funktion – Das „Catalophore"-Prinzip

Die offensichtlichste Veränderung durch KI ist die Geschwindigkeit. Was vor wenigen jahren noch eine Doktorarbeit füllte (die Strukturaufklärung eines Proteins), geschieht heute in Sekunden in silico. Doch die reine Strukturvorhersage, wie sie AlphaFold brillant gelöst hat, ist nur der erste Schritt. Die Struktur ist statisch; das reale Leben aber ist funktional und dynamisch.

Zu beiden Aspekten vollzieht sich momentan ein tiefgreifender methodischer Wandel der das ganze Feld tiefgreifend und nachhaltig verändert: Wir bewegen uns weg von der reinen Geometrie hin zur funktionellen Topologie. Ein Protein besteht nicht nur aus seinem Rückgrat (Backbone), sondern definiert sich durch seine Hohlräume, Taschen und Oberflächenladungen. Es sind diese Leerräume – die Kavitäten –, in denen chemische Reaktionen stattfinden.

In unserer Arbeit hat sich gezeigt, dass KI Dinge „sehen" kann, die dem menschlichen Auge verborgen bleiben. Durch den Einsatz maschineller Lernverfahren können wir diese Hohlräume als Punktwolken definieren, als mathematische Räume mit spezifischen physikalisch-chemischen Signaturen – wir nennen sie „Catalophores"². Anstatt ein Enzym nur nach seiner Aminosäuresequenz zu klassifizieren, ermöglicht es die KI, nach der Form und Beschaffenheit seines aktiven Zentrums zu suchen. Das ist vergleichbar mit dem Wechsel von einer Bibliothek, in der Bücher nur nach der Farbe des Einbands sortiert sind (Sequenzähnlichkeit), zu einer digitalen Volltextsuche, die den Inhalt versteht (Funktionsvorhersage).

Dieser methodische Sprung ermöglicht eine Art „Google-Suche für Enzyme". Wir suchen nicht mehr die Nadel im Heuhaufen durch endloses Pipettieren im Labor, sondern filtern Datenbanken mit Millionen von Strukturen nach jenen Mustern, die eine gewünschte chemische Reaktion katalysieren können. Das Labor wird dadurch nicht obsolet, aber seine Rolle ändert sich grundlegend: Es dient nicht mehr der Suche, sondern der Validierung. Die KI unterstützt uns dabei die Hypothese zu generieren, das „Wet Lab" liefert den Beweis.

III. Theoretische Basis: Die „fehlende Physik" in der KI

Ein kritischer Diskurs, der das Fachgebiet derzeit prägt, ist die Frage nach der Qualität und Tiefe der KI-Modelle. Große Sprachmodelle (Large Language Models) haben bewiesen, dass sie Muster in Sequenzen exzellent erkennen können. Doch Biologie ist keine reine Linguistik; sie unterliegt den harten Gesetzen der Physik und Thermodynamik.

Eine reine Korrelationsmaschine kann „halluzinieren"¹⁰ – in der Textgenerierung ist das oft amüsant, in der Medikamentenentwicklung kann es fatal sein. Ein von einer KI entworfenes Protein mag auf dem Bildschirm plausibel aussehen, aber wenn es gegen die Gesetze der Elektrostatik verstößt oder thermodynamisch instabil ist, wird es in der Zelle nicht existieren.

Daher verändert sich die theoretische Basis unseres Fachs hin zu einer „Physics-based AI". Wir müssen physikalische Prinzipien – Energiefunktionen, Ladungsverteilungen, Hydrophobizität – in die neuronalen Netze integrieren. Die Zusammenarbeit mit Technologiegiganten wie NVIDIA zeigt, dass die Zukunft für die Biologie in „Foundation Models"³ liegt, die nicht nur Sequenzen lernen, sondern ein "intuitives" Verständnis für die Physik der Moleküle entwickeln. Wir bringen der KI bei, nicht nur zu lesen, sondern die physikalischen Konsequenzen des Gelesenen zu "verstehen". Dies schließt die Lücke zwischen der abstrakten Datenanalyse und der realen, messbaren Biochemie.

IV. Kreativität und Anwendung: Design statt Entdeckung

Die vielleicht radikalste Veränderung betrifft die wissenschaftliche Kreativität. Früher waren wir Entdecker in der Natur. Wir suchten nach Enzymen in extremophilen Bakterien oder Pilzen, in der Hoffnung, dass die Evolution bereits eine Lösung für unser Problem gefunden hat.

Heute werden wir zu Architekt:innen. Mit generativer KI können wir Proteine entwerfen, die es in der Natur nie gab⁴. Wir können Enzyme maßschneidern, die Plastik abbauen⁵, CO2 binden oder hochspezifische Wirkstoffe synthetisieren – und das unter Bedingungen, die für natürliche Enzyme untypisch wären. Auch wenn es diese Versuche bereits mit "konventionellen" Methoden gegeben hat, waren die praktischen Erfolge äußerst überschaubar und ein derartiger Zugang bestenfalls als langfristige Vision denkbar. Die Kreativität des Forschenden verlagert sich von der Versuchsplanung auf das Design der Fragestellung und der Parameter.

Ein konkretes Beispiel ist die nachhaltige Chemie (Green Chemistry). Die Industrie benötigt Katalysatoren, die unter milden Bedingungen arbeiten, um toxische Schwermetalle und hohe Energieverbräuche zu ersetzen. Durch KI können wir Enzyme so modifizieren („Engineering"), dass sie genau diese industriellen Anforderungen erfüllen. Die Pandemie war hier ein Katalysator: Sie zeigte uns, dass wir keine Jahre Zeit haben. Im Projekt JEDI (Joint European Disruptive Initiative)⁶ konnten wir demonstrieren, wie KI-gestützte Analysen des Spike-Proteins von SARS-CoV-2 in Rekordzeit Angriffspunkte für Medikamente identifizierten⁷. Diese Dringlichkeit hat die Akzeptanz von In-silico-Methoden massiv erhöht und dieses Timing hat die Biotechnologie auch zu einer der Vorreiter Disziplinen im Einsatz von KI Werkzeugen gemacht.

V. Infrastruktur als wissenschaftliches Werkzeug

Die Veränderung des Fachs ist untrennbar mit der Veränderung der Werkzeuge verbunden. Eine zunehmende Zahl an Laboren ist heute nicht mehr primär durch Zentrifugen und Pipetten definiert, sondern durch GPUs (Grafikprozessoren) und Cloud-Infrastrukturen. Wir operieren heute in Dimensionen, die für eine:n einzelne:n Biologe:in früher unvorstellbar waren: Wir verwalten und analysieren Petabytes (10^15 Bytes) an Strukturdaten⁸, die nicht auf einer lokalen Festplatte liegen, sondern auf global verteilten Servernetzwerken gespiegelt sind. Dies erlaubt es uns, Simulationen dort auszuführen, wo Energie und Rechenleistung gerade am effizientesten verfügbar sind – sei es in einem Rechenzentrum in Virginia oder in Frankfurt.

Dieser fundamentale Wandel der Infrastruktur wurde mir in einem persönlichen Gespräch mit Jensen Huang, dem CEO von NVIDIA, besonders deutlich. Es war weit mehr als ein technologischer Austausch; es war die symbolische Begegnung zweier Welten, die nun unaufhaltsam verschmelzen: Hier die massive, brachiale Rechenkraft des Siliziums, dort die komplexe, chaotische Eleganz des Kohlenstoffs (der Biologie). In diesem Dialog kristallisierte sich heraus, dass Technologieunternehmen heute dringend nach der biologischen „Ground Truth" – den physikalischen Regeln des Lebens – suchen, um ihre „Foundation Models" zu trainieren. Umgekehrt benötigen wir Forschende deren Exa-Scale-Infrastruktur, um die „fehlende Physik" in unsere Modelle zu integrieren.

Die Partnerschaft von Biowissenschaften mit High-Performance-Computing (HPC) ist somit keine reine IT-Frage, sondern eine epistemologische Notwendigkeit. Um komplexe Simulationen durchzuführen, etwa wie ein Wirkstoff an ein Protein bindet, während sich beide in einer wässrigen Lösung bewegen (Molekulardynamik), ist die Cloud unverzichtbar geworden. Plattformen wie AWS ermöglichen es uns, Experimente, die auf einem lokalen Cluster Monate dauern würden, global zu skalieren und in Tagen abzuschließen. Die Wissenschaft wird dadurch nicht nur schneller, sondern auch ortsunabhängiger und kollaborativer.

VI. Chancen und Grenzen: Demokratisierung vs. Komplexitätsfalle

Wie verändert KI das soziale Gefüge der Wissenschaft? Hier liegt eine der größten Chancen: die Demokratisierung des Wissens. Projekte wie die „Human Protein Map", an der wir arbeiten, zielen darauf ab, das gesamte menschliche Proteom strukturell und funktionell zu kartieren und diese Daten offen zugänglich zu machen.

Forschende in einem Entwicklungsland, die keinen Zugang zu einem Synchrotron oder Kryo-Elektronenmikroskop haben, können heute über cloudbasierte KI-Tools Weltklasse-Strukturbiologie betreiben. Sie können potenzielle Wirkstoffe gegen lokale Krankheiten am Computer screenen. Das senkt die Eintrittsbarriere in die biomedizinische Forschung dramatisch. Wissen wird von einem exklusiven Gut zu einer globalen Ressource.

Doch hier liegen auch die Grenzen und Risiken. Die Verführung, der KI blind zu vertrauen, ist groß. „KI liefert Ergebnisse, aber keine Einordnung", wie es in der Ausschreibung treffend heißt. Wir laufen Gefahr, die Komplexität biologischer Systeme zu unterschätzen, wenn wir uns nur auf die Modelle verlassen. Ein Protein existiert nicht im Vakuum; es interagiert mit tausenden anderen Molekülen in der Zelle. Diese zelluläre Kontextualität ist der nächste große Schritt, den die KI noch nicht vollständig gemeistert hat. Es besteht das Risiko einer „Black Box"-Wissenschaft, bei der wir zwar funktionierende Antworten erhalten, aber den zugrundeliegenden Mechanismus nicht mehr vollständig durchdringen. Daher bleibt die Ausbildung in den fundamentalen Prinzipien der Biochemie essenziell – wir dürfen keine Generation von Wissenschaftler:innen heranziehen, die nur noch Knöpfe drückt, ohne die Biochemie dahinter zu verstehen. Dies ist unserer Meinung nach übrigens auch auf alle anderen Wissenschaftsdisziplinen umzulegen - in der Ausbildung der nächsten Generation an Forschenden werden zwei Aspekte noch weiter an Bedeutung gewinnen: Erstens ein tiefes Verständnis für die Grundlagen im jeweiligen Fach und zweitens die Disziplin alle mittels KI gewonnener Ergebnisse auch entsprechend zu kontrollieren.

VII. Ausblick: Der digitale Zwilling der Zelle

Wohin führt dieser Weg? Wenn AlphaFold der Durchbruch für die Struktur war und Technologien wie Catalophore™ den Durchbruch für die Funktion darstellen, dann ist das Ziel des nächsten Jahrzehnts der „Digitale Zwilling der Zelle".

Wir bewegen uns auf eine Ära zu, in der wir biologische Prozesse nicht mehr nur an isolierten Molekülen, sondern in ihrer systemischen Gesamtheit simulieren können⁹. Stellen Sie sich vor, wir könnten die Wirkung eines Medikaments an einem virtuellen Abbild der Leber eines Patienten testen, bevor die erste Pille geschluckt wird. Stellen Sie sich vor, wir könnten Stoffwechselwege in Bakterien komplett am Computer designen, um Biokraftstoffe effizienter herzustellen. Derartige Ziele, die noch vor wenigen Jahren wie Science Fiction geklungen haben, sind nun tatsächlich in greifbare Nähe gerückt.

Die Strukturbiologie wird zur Basiswissenschaft für eine programmierbare Biologie. Wir beginnen, die „Root Node"-Probleme zu lösen – jene fundamentalen Knotenpunkte, deren Entschlüsselung ganze Forschungszweige revolutioniert.

VIII. Fazit: Eine neue Verantwortung

Zusammenfassend lässt sich sagen: KI verändert die Strukturbiologie radikal, indem sie die Grenzen des Machbaren verschiebt und die Zeitachse der Entdeckung komprimiert. Sie befreit uns von der Last der repetitiven Datenerhebung und gibt uns die Freiheit, uns den großen Fragen zu widmen.

Doch mit dieser Macht geht eine neue Verantwortung einher. Wir müssen sicherstellen, dass diese Technologien ethisch genutzt werden, dass die Datenintegrität gewahrt bleibt und dass die „Physics-based"-Validierung stets Teil des Prozesses bleibt. Wir schreiben gerade das Betriebssystem des Lebens neu. Es liegt an uns, sicherzustellen, dass der Code, den wir generieren, zum Wohle der Menschheit und unseres Planeten funktioniert.

Die KI macht den Forschenden nicht überflüssig. Im Gegenteil: Sie fordert ihn mehr denn je. Sie verlangt von uns, über Disziplingrenzen hinweg zu denken – Informatik, Physik und Biologie zu vereinen – und den Mut zu haben, nicht mehr nur zu beobachten, was die Natur geschaffen hat, sondern aktiv an der Lösung der drängenden Probleme unserer Zeit mitzubauen.

Quellen

¹ Jumper, J., Evans, R., Pritzel, A. et al. Highly accurate protein structure prediction with AlphaFold. Nature 596, 583–589 (2021). DOI: 10.1038/s41586-021-03819-2
² Steinkellner, G., Gruber, C. C., Pavkov-Keller, T. et al. Identification of promiscuous enereductase activity by mining structural databases using active site constellations. Nature Communications 5, 4150 (2014). DOI: 10.1038/ncomms5150
³ NVIDIA Corporation. BioNeMo for Biopharma – Drug Discovery with Generative AI. Offizielle Plattform-Dokumentation (abgerufen 2026). URL: www.nvidia.com/enus/industries/healthcare-life-sciences/biopharma/ sowie https://docs.nvidia.com/bionemoframework/, abgerufen am 16.4.2026
⁴ Watson, J. L., Juergens, D., Bennett, N. R. et al. De novo design of protein structure and function with RFdiffusion. Nature 620, 1089–1100 (2023). DOI: 10.1038/s41586-023-06415-8
⁵ Tournier, V., Topham, C. M., Gilles, A. et al. An engineered PET depolymerase to break down and recycle plastic bottles. Nature 580, 216–219 (2020). DOI: 10.1038/s41586-020-2149-4
⁶ Joint European Disruptive Initiative (JEDI). Billion Molecules against COVID-19 Grand Challenge. Offizielle Projektseite (abgerufen 2026). URL: https://www.jedi.foundation/covid19challenge, abgerufen am 16.4.2026 
⁷ Hetmann, M., Langner, C., Durmaz, V. et al. Identification and validation of fusidic acid and flufenamic acid as inhibitors of SARS-CoV-2 replication using DrugSolver CavitomiX. Scientific Reports 13, 11783 (2023). DOI: 10.1038/s41598-023-39071-z
⁸ Varadi, M., Anyango, S., Deshpande, M. et al. AlphaFold Protein Structure Database: massively expanding the structural coverage of protein-sequence space with high-accuracy models. Nucleic Acids Research 50, D439–D444 (2022). DOI: 10.1093/nar/gkab1061
⁹ Abramson, J., Adler, J., Dunger, J. et al. Accurate structure prediction of biomolecular interactions with AlphaFold 3. Nature 630, 493–500 (2024). DOI: 10.1038/s41586-024-07487-w
¹⁰ Steinkellner, G., Kroutil, W., Gruber, K. & Gruber, C. C. AlphaFold 3 is great — but it still needs human help to get chemistry right. Nature 637, 548 (2025). DOI: 10.1038/d41586-02500111-5

Die Maschine, die nicht lügt. Oder doch?

I)

Fangen wir mit dem Offensichtlichen an, das trotzdem niemand laut sagt: Die meisten Wissenschaftlerinnen und Wissenschaftler, die heute KI-Tools nutzen, verstehen nicht, was diese Tools tun. Das ist keine Beleidigung. Das ist eine Feststellung. Und sie gilt genauso für den Autor dieses Textes, der ebenfalls nicht versteht, wie ein Large Language Model auf Token-Ebene funktioniert, aber trotzdem täglich mit einem spricht. Wir haben Werkzeuge adoptiert, die wir nicht durchschauen und nennen das Fortschritt.

Was neu daran ist: Früher wusste man wenigstens, was man nicht weiß. Der Statistiker, der ein Regressionsmodell anwendet, kann die Formel aufschreiben. Die Historikerin, der ein Archivdokument auswertet, kann die Handschrift zeigen. Die Blackbox war früher außen. Heute sitzt sie im Werkzeug selbst, und das Werkzeug lächelt dabei.

Das ist kein Argument gegen KI. Es ist ein Argument für Ehrlichkeit über KI. Und diese Ehrlichkeit fehlt in nahezu jeder institutionellen Diskussion über das Thema – ersetzt durch Enthusiasmus auf der einen, Panik auf der anderen Seite. Beides ist bequemer als die eigentlich notwendige Frage: Was passiert eigentlich, wenn wir Erkenntnisprozesse an Systeme delegieren, die wir nicht verstehen?

II)

KI verändert die Wissenschaft. Das ist die These der ÖAW, und sie ist richtig. Aber sie ist auch zu brav formuliert. Richtiger wäre: KI beschleunigt die Wissenschaft in eine Richtung, die sie ohnehin schon eingeschlagen hatte. Und diese Richtung war vor der KI schon problematisch.

Gemeint ist folgendes: Wissenschaft war in den letzten Jahrzehnten zunehmend eine Angelegenheit des Outputs. Wie viele Paper? Wie hoch der Impact Factor? Wie schnell vom Datensatz zur Publikation? KI ist das perfekte Instrument für eine Wissenschaftskultur, die Geschwindigkeit mit Erkenntnis verwechselt. Ein Sprachmodell kann in einer Stunde eine Literaturübersicht schreiben, die ein Doktorand in drei Wochen verfasst hätte. Großartig. Aber was geht dabei verloren?

Genau das, was beim langsamen Lesen passiert: Widersprüche fallen auf. Lücken werden sichtbar. Zufällige Querverbindungen entstehen. Das Paper, das man eigentlich nicht sucht, aber trotzdem findet. Die Erkenntnis kommt oft nicht aus dem Ergebnis, sondern aus dem Weg dorthin. KI liefert das Ergebnis ohne den Weg. Das ist ihr größtes Versprechen. Und ihr größtes Problem.

Wer nur noch das Ergebnis sieht, verliert die Fähigkeit zu beurteilen, ob das Ergebnis stimmt. Das klingt abstrakt, ist aber sehr konkret: Ein Doktorand, der drei Wochen Literatur gelesen hat, weiß, wo die Kontroversen liegen, wo die Daten dünn sind, welche Quellen einander widersprechen. Das Sprachmodell weiß das nicht. Es glättet Kontroversen weg, weil Glattheit statistisch häufiger vorkommt als Widerspruch.

III)

KI ist für die Geisteswissenschaften gefährlicher als für die Naturwissenschaften. Das klingt kontraintuitiv, weil die großen KI-Versprechen meistens aus der Biologie oder Physik kommen. In der Molekularbiologie kann AlphaFold Proteinfaltungen vorhersagen, und man kann die Vorhersage experimentell überprüfen. Die Maschine sagt etwas, das Labor antwortet. Richtig oder falsch, die Wirklichkeit hat das letzte Wort. In der Klimaforschung werden KI-Prognosen gegen Messdaten gehalten. In der Medizin gibt es Outcomes.

In der Literaturwissenschaft, der Geschichtswissenschaft, der Philosophie gibt es dieses Labor nicht. Wenn ein Sprachmodell analysiert, was Kafkas Verwandlung über die Entfremdung im modernen Kapitalismus aussagt, dann klingt das überzeugend. Es klingt immer überzeugend. Aber wer widerlegt es? Das Modell hat keinen Zugang zu Bedeutung. Es hat Zugang zu Mustern in Texten, die von Menschen geschrieben wurden, die über Bedeutung nachgedacht haben. Das ist ein enormer Unterschied, der im Alltag des Seminarraums vollständig verschwindet.

Die Folge: Geisteswissenschaftliche KI-Outputs werden nicht falsifiziert, sondern akzeptiert oder abgelehnt nach dem Kriterium, ob sie plausibel klingen. Und Sprachmodelle sind Weltmeister im Plausibel-Klingen. Sie sind trainiert darauf, Sätze zu produzieren, denen Menschen zustimmen. Das ist buchstäblich ihre Funktion. In einem Feld, das keine externe Überprüfungsinstanz hat, ist das kein Werkzeug. Es ist eine Verführung.

Hinzu kommt ein methodisches Problem, das selten diskutiert wird: Sprachmodelle sind auf existierenden Texten trainiert. Sie reproduzieren also notwendigerweise den Mainstream der jeweiligen Disziplin, verstärkt und geglättet. Die heterodoxe These, der Außenseiter, die Forscherin, die gegen den Konsens arbeitet – das alles verschwindet im statistischen Mittel. KI-gestützte Geisteswissenschaft ist, strukturell betrachtet, konservativ. Sie bewahrt, was schon gedacht wurde. Das Neue muss woanders herkommen.

IV)

Seit Jahren weiß man, dass ein erschreckend hoher Anteil wissenschaftlicher Studien nicht reproduzierbar ist. Die Reproduzierbarkeitskrise betrifft Psychologie, Medizin, Ernährungswissenschaft, Soziologie. Felder, in denen kleine Stichproben, Publikationsbias und methodische Freiheitsgrade zu Ergebnissen geführt haben, die nicht standhalten. KI könnte helfen, das zu verbessern: automatisierte Überprüfung von Methoden, schnellere Replikation, bessere Fehlererkennung. Das klingt gut.

Die Realität dürfte eine andere sein. KI-Modelle werden auf Trainingsdaten trainiert. Wer diese Daten kontrolliert, kontrolliert die Ausgaben. Wer die Ausgaben nicht interpretieren kann, merkt die Fehler nicht. Und wer unter Publikationsdruck steht – also alle – wird KI nicht als Kontrollinstanz einsetzen, sondern als Produktionsbeschleuniger. Das Resultat: mehr Output, mehr Plausibilität, weniger Überprüfbarkeit. Die Krise ist dieselbe. Die Papierberge sind größer. Und die Papierberge sehen professioneller aus als je zuvor, weil KI auch das Schreiben nivelliert.

Es gibt einen Begriff aus der Informatik, der hier passt: Garbage in, garbage out. Wenn schlechte Forschung als Trainingsdaten für KI-Modelle dient – und das tut sie, weil schlechte Forschung publiziert wird wie gute – dann produziert KI bessere Versionen von schlechter Forschung. Schneller. Glatter. Vor allem aber überzeugender.

V)

Man muss fair sein. Es gibt echte Durchbrüche. AlphaFold ist kein Marketing-Trick. Das Modell hat innerhalb von Monaten geleistet, wofür die strukturelle Biologie Jahrzehnte gebraucht hätte. In der Klimaforschung ermöglichen KI-gestützte Simulationen eine räumliche und zeitliche Auflösung, die mit klassischen Methoden nicht erreichbar wäre. In der Archäologie werden Satellitendaten ausgewertet, die vorher niemand hätte händisch analysieren können. In der Medizin helfen Bilderkennungsmodelle bei der Früherkennung von Tumoren mit einer Genauigkeit, die menschliche Radiologen in bestimmten Aufgaben übertrifft.

Das sind keine Kleinigkeiten. Das sind Quantensprünge. Aber sie passieren in Bereichen, wo es Referenzpunkte gibt. Wo die Maschine gemessen werden kann. Wo die Wirklichkeit antwortet. Die Frage ist nicht, ob KI der Wissenschaft nützt. Die Frage ist: welcher Wissenschaft, unter welchen Bedingungen, mit welcher Überprüfungsinfrastruktur?

Und diese Frage wird zu selten gestellt, weil die Antwort unbequem ist. Sie würde bedeuten, dass man für manche Felder sagen muss: hier ist KI ein mächtiges Werkzeug. Und für andere: hier ist KI vor allem ein Risiko. Diese Differenzierung kostet Zeit und Sorgfalt, zwei Ressourcen, die in der modernen Wissenschaftskultur systematisch knapp gehalten werden.

VI)

KI verändert nicht primär, was Wissenschaft weiß. Sie verändert, wer Wissenschaft betreibt und unter wessen Bedingungen.

Eine Einzelperson mit Laptop und API-Zugang kann heute Analysen durchführen, für die früher ein Team und ein Labor nötig waren. Das ist eine echte Demokratisierung. Forscherinnen in Ländern ohne starke institutionelle Infrastruktur können auf Werkzeuge zugreifen, die früher exklusiv an reichen Universitäten verfügbar waren. Das verdient Anerkennung.

Aber gleichzeitig: OpenAI, Google, Anthropic, Meta. Vier amerikanische Unternehmen – privatwirtschaftlich, renditeorientiert, dem amerikanischen Rechtssystem unterworfen – kontrollieren den Großteil der KI-Infrastruktur, auf der globale Wissenschaft zunehmend aufbaut. Ihre Modelle sind nicht neutral. Sie spiegeln Entscheidungen wider: Welche Daten werden verwendet? Welche Inhalte werden gefiltert? Welche Sprachen und Kulturen sind unterrepräsentiert? Diese Entscheidungen werden nicht in Peer-Review-Verfahren getroffen. Sie werden in Produktteams getroffen.

Wer die Infrastruktur kontrolliert, kontrolliert langfristig die Erkenntnismöglichkeiten. Das gilt für Verlage, die seit Jahrzehnten den Zugang zu wissenschaftlicher Literatur regulieren und dabei exorbitante Gewinne einfahren. Und es gilt für KI-Modelle – mit dem Unterschied, dass Verlage immerhin den Text reproduzieren, den Wissenschaftlerinnen geschrieben haben. KI-Modelle transformieren ihn.

Diese Machtfrage taucht in keiner Methodenreflexion eines Drittmittelantrags auf. Sie müsste aber in jeder ehrlichen Diskussion über Wissenschaftsfreiheit im 21. Jahrhundert stehen. Denn Wissenschaft muss KI nutzen. Das Moralisieren über KIAbstinenz ist ungefähr so produktiv wie die Weigerung, das Internet zu benutzen. Wer KI-Tools ablehnt, schreibt sich aus dem Diskurs heraus und verliert die Fähigkeit, über sie zu urteilen. Das wäre das Schlechteste.

VII)

Es geht darum, die eigene Disziplin zu verteidigen. KI liefert Geschwindigkeit. Wissenschaft braucht manchmal Langsamkeit. Das Nachdenken, das Zweifeln, das Verwerfen von Hypothesen ist keine Ineffizienz, die optimiert werden sollte. Es ist der Kern des Unternehmens. Wenn Universitäten und Drittmittelgeber weiterhin primär Output messen, dann werden Forschende KI als Outputmaschine nutzen – rational und verständlich. Das Problem liegt dann nicht bei den Forschenden.

Es geht aber auch darum, Transparenz zur Pflicht zu machen. Nicht als bürokratische Anforderung, sondern als epistemisches Prinzip. Welche Daten? Welches Modell? Welche Version? Reproduzierbarkeit gilt auch für KI-gestützte Forschung. Das muss institutionell eingefordert werden. Die Idee, dass man ein Sprachmodell als Koautorin nicht nennen muss, ist wissenschaftlich unhaltbar. Ein Sprachmodell trifft Entscheidungen. Diese Entscheidungen müssen dokumentiert sein.

Und: Wir müssen die politische Dimension ernst nehmen. Forschungsfreiheit im 21. Jahrhundert bedeutet auch Unabhängigkeit von privaten KI-Infrastrukturen. Europa hat eine Chance – und eine Pflicht – hier eigene Kapazitäten aufzubauen. Nicht aus Nationalismus, sondern aus wissenschaftlicher Souveränität. Eine ÖAW, die diese Frage nicht stellt, macht Wissenschaftspolitik ohne die wichtigste Variante.

VIII)

Zum Schluss noch dies: Die ÖAW fragt, wie KI das jeweilige Fach verändert. Das ist eine gute Frage. Die bessere Frage wäre: Was wollen wir, dass Wissenschaft ist?

Wenn Wissenschaft Erkenntnis über die Welt bedeutet – echte, überprüfbare, falsifizierbare Erkenntnis, erarbeitet durch systematisches Zweifeln – dann ist KI ein mächtiges Werkzeug mit klaren Grenzen, die man benennen muss. Wenn Wissenschaft Publikationsoutput bedeutet, Impact Factors, Drittmittelquoten und Sichtbarkeit in Ranglisten, dann ist KI die perfekte Maschine: schnell, produktiv, plausibel, unkritisch.

Das Problem ist, dass wir beides gleichzeitig wollen. Erkenntnis und Output. Tiefe und Geschwindigkeit. Originalität und Skalierbarkeit. KI macht diesen Widerspruch nicht größer. Sie macht ihn sichtbar. Wer KI richtig einsetzt, merkt sehr schnell, was an der eigenen Praxis Erkenntnis war und was Paperproduktion. Das ist unbequem. Und vielleicht ist das der eigentliche Beitrag, den KI zur Wissenschaft leistet: nicht neue Antworten, sondern klarere Sicht auf alte Fragen.

Was wissen wir wirklich? Was glauben wir nur zu wissen? Was haben wir bisher produziert, ohne es zu hinterfragen? Diese Fragen stellen sich mit KI genauso wie ohne. Aber mit KI, die einen Monat Arbeit in eine Stunde komprimiert, werden sie dringlicher.

Und die Maschine lächelt.

Wir sollten trotzdem nachfragen.

Machine Learning revolutionized Particle Physics twice — the third time is happening as I'm typing these lines

Setting the stage: Why particle physics is the perfect example

Let's start from the beginning. Particle physics as a field of research has excellent preconditions for modern computational methods to thrive. At the core, we are investigating the fundamental building blocks of Nature: elementary particles and the interactions between them. This is a numerical, data-intensive science: Theorists predict interaction rates with percent-level precision and experimentalists let particles collide at high energies and measure the outcomes. At the Large Hadron Collider (LHC) at CERN, such collisions take place every 25 nanoseconds, resulting in 40 million collisions per second. Each collision can produce hundreds of particles, each leaving different electronic signals in the detector system, totaling billions of such signals per second. Too much to be recorded, so we need to filter them in a smart way. After recording, experimentalists then combine signals of interesting events to reconstruct information about the particle that produced them. They compare them to simulations based on theory predictions and infer the secrets of Nature that underlie everything. Almost all of these steps involve algorithms that process a lot of numerical data. Results undergo several layers of rigorous quality control. Analyses are done with blinded signal regions to avoid biasing selection algorithms, manuscripts are reviewed within collaborations before being sent for peer review, and independent experiments cross-check each other's results. But there is also room for creativity: Theorists come up with new models of particles and interactions; and simulations make these directly comparable to experimental results in a tight feedback loop.

Wave 1: The first adoption, from the 1990s to the 2010s, gave us speed

This ecosystem of statistical data analyses by experimentalists and first-principles modeling by theorists relies on complex numerical algorithms to tie it all together. Since artificial neural networks are powerful tools that can boost such algorithms, physicists proposed and adopted them already more than 30 years ago [¹]. Learning algorithms, such as boosted decision trees (BDTs), helped to better distinguish signal processes from background and thus sharpened experimental signals. These classifiers function as learned approximations to optimal test statistics, like likelihood ratios. Such techniques also contributed to the discovery of the Higgs boson in 2012 at the LHC [^2,3] and the observation of single top-quark production in 2009 at the Tevatron [^4,5] by squeezing out more information from the data. Without these tools, these discoveries would, most likely, only have been possible later with more collected data. In these cases, ML didn’t change what’s discoverable—it changed how fast we could discover it. While analysis techniques roughly stayed the same, rarer processes with larger backgrounds suddenly became experimentally accessible. Theorists became more creative in conceiving new models and experimentalists came up with smarter observables and summary statistics to improve the performance of the BDTs even further.

Wave 2: The broad revolution, starting in the late 2010s, gave us breadth

The next big transition we saw in particle physics started about 2017, when the Python libraries TensorFlow and PyTorch were published. Suddenly, it was possible to train deeper networks on local and other available hardware. In contrast to some commonly used physics programs I used before, which were developed by physicists that sometime later had left research or moved on to other topics, these big libraries were well documented and maintained, because software companies like Meta (PyTorch) and Alphabet (TensorFlow) were standing behind them. As a result, many new methods were conceived and published in the decade that followed, not only in particle physics, but in almost any other scientific field, too. A surge of creative, new methods [⁶] offered many new opportunities, all of them beyond large language models (LLMs, like ChatGPT) that slowly moved in public focus shortly after. As already outlined, we work with numerical data and not with text. Tasks we usually face are classification, anomaly detection, generation, and inference.

Deep neural classifiers further improved the performance gains we saw from BDTs. They can decide which event to keep and which to throw away from the millions that happen every second. They can decide to which type of particle a given signal pattern belongs to, or if an event is an interesting signal or a similar-looking background process. ML sees more patterns in the data and improves the performance of the decisions to be made, resulting directly in more efficient science.

Anomaly detection algorithms look for the needle in the haystack, sometimes without knowing what the needle and the hay looks like. This helps us look at unexpected data and investigating ideas that we otherwise would not have thought about.

Generative ML learns to reproduce complicated patterns in the data, for example particle showers that are produced when collision particles interact with our detector machines. When simulating such a single collision event with traditional algorithms takes several seconds, the 1000-times faster generative ML can make the difference about simulating a sufficient amount of data, i.e. if an analysis is possible, or not.

Inference models learn the relation between underlying parameters (like coupling strengths between particles) and observations (like collision rates) through simulations. After an upfront training phase, these models allow us to infer back quickly to coupling strengths and other parameters, including measurement and parameter uncertainties, given observed data.

However, new methods give rise to new questions about themselves and their limits, like "Isn't that a black box that only repeats the training data?" or "Don't we know from ChatGPT that those models are always hallucinating?". These are valid concerns that one often observes when interacting with LLMs. However, as physicists we know how to open and study black boxes. We added error bars, separately for coming from the ML model and coming from the data. This way, the algorithm tells us how certain its answer is. By embedding symmetries and conservation laws into model architectures (such as graph-based networks), we constrained hypothesis spaces and improved model performance. We also studied dependencies of input and output data, attention maps of transformer networks, and tried to understand how decisions were made. Hallucinations are possible, yes, but in some applications we actually benefit from interpolation (remember, we do not work with text). In other applications, we design the models such that the ML is just proposing a solution that is later confirmed by a traditional algorithm, avoiding wrong, hallucinated data to spoil the physics.

Wave 3: The next revolution with agentic AI in 2026 gives us scale and autonomy

The next big transition is happening as I type these lines. Agentic AI—LLM-based models that autonomously perform tasks like planning workflows, writing and executing code, and iterating with goals in mind—shows impressive results when told to reproduce particle physics analyses [⁷]. This success comes from the fact that each experimental analysis requires several thousand lines of code and the application of standard, but still tailored techniques. The same holds for simulation pipelines that require the successive application of multiple steps (collisions, decays, interactions with the detector). In all such cases LLMs can, guided by research papers that they read autonomously, assemble the necessary framework successfully execute the pipeline. Tasks that take first-year doctoral students several months to complete now only take a few hours. This will allow us to scale up the number of possible analyses massively, freeing up (human brain) resources to focus on new ideas and new methods. However, what sounds like an unprecedented speedup depends crucially on the details. The agentic models still make subtle mistakes, similar to those a first-year student would make, that expert eyes can spot. Furthermore, the quality of results also strongly depends on the human-made orchestration framework—the rules under which the agents operate. Human experts are therefore still crucial in the process, our work and creativity is only shifting to other tasks. But it's not only the workflows that we need to rethink, it is also our training of the next generation. While we certainly have to teach these new tools to our students, we have to ensure that we still train them in the skills they need to find the subtle mistakes. After all, it's the friction and the mistakes in the learning process that shape the human brain [⁸] and a blind delegation of tasks to the agents will not suffice.

A look into the future shows our responsibilities

In summary, machine learning—as a powerful numerical tool—has brought and will bring new possibilities to all numerical sciences. Existing algorithms become more powerful and new algorithms become possible at all. In a sense, it is like Galileo Galilei, who invented the telescope and made new discoveries everywhere he pointed it (like the moons of Jupiter and the phases of Venus), ML will accelerate discoveries and open new directions. We, as researchers, have to make sure that process is scientific and rigorous. The risks are real—domain shift between simulation and data, overconfident models that hallucinate, subtle bugs at scale that are hard to detect—but our antidotes are those of good science, adapted to the new tools: calibrated uncertainties with demonstrated coverage, pre-specified validation and dataset blinding, robustness tests under nuisance variations, interpretable checks where it matters, reproducible workflows, and a culture of openness and education, as we already do. With these commitments, ML becomes less a black box and more a new instrument extending the reach of our questions.

In particle physics, the three waves of ML adoption first accelerated discovery (Wave 1), then broadened what is methodologically possible (Wave 2), and now promise to scale our workflows (Wave 3). Along the way, ML has not replaced theory; it has tightened the bond between theoretical structure and data by embedding symmetries and constraints directly into models, and by making the entire simulation chain differentiable. ML has not replaced creativity; it has redirected it—from hand-crafted cuts to architecture design, from black-box fitting to uncertainty-aware inference, from one-off scripts to reusable, open pipelines. ML has also not replaced us scientists, we are still the most valuable element in the scientific process, only our tools and therefore our tasks have changed. I can therefore look into a bright future: in the next 15 years, the High-Luminosity LHC will collect about ten times more data than we already have and with the use of (current and future) ML tools we will be able to uncover more secrets that Nature holds, as efficiently as possible.

References

¹ L. Lonnblad, C. Peterson, and T. Rognvaldsson, „Pattern recognition in high-energy physics with artificial neural networks: JETNET 2.0“,  Comput. Phys. Commun.  70  (1992), 167-182

² G. Aad et al. [ATLAS Collaboration], „Observation of a new particle in the search for the Standard Model Higgs boson with the ATLAS detector at the LHC“,  Phys. Lett. B  716  (2012), 1-29 , arXiv:1207.7214

³ S. Chatrchyan et al. [CMS Collaboration], „Observation of a New Boson at a Mass of 125 GeV with the CMS Experiment at the LHC“,  Phys. Lett. B  716  (2012), 30-61 , arXiv:1207.7235

⁴ T. Aaltonen et al. [CDF Collaboration], „First Observation of Electroweak Single Top Quark Production“,  Phys. Rev. Lett.  103  (2009), 092002 , arXiv:0903.0885

⁵ V. M. Abazov et al. [D0 Collaboration], „Observation of Single Top Quark Production“, Phys.  Rev. Lett.  103  (2009), 092001 , arXiv:0903.0850

⁶ „The HEP-ML Living Review“, https://iml-wg.github.io/HEPML-LivingReview/

⁷ E. A. Moreno, S. Bright-Thonney, A. Novak, D. Garcia and P.~Harris, „AI Agents Can Already Autonomously Perform Experimental High Energy Physics“, arXiv:2603.20179

⁸ M. Karamanis, „The machines are fine. I'm worried about us.“, https://ergosphere.blog/posts/the-machines-are-fine/

KI in der Philosophie: Ist es eine Komödie? Ist es eine Tragödie?

Die Frage nach den Auswirkungen „Künstlicher Intelligenz“ auf die Philosophie steht vor der Herausforderung, dass „Philosophie“ nicht nur im öffentlichen, sondern auch im akademischen Bereich ein notorisch unklarer und auch umstrittener Begriff ist – ein Umstand, wie er wohl bei keiner anderen wissenschaftlichen Disziplin in dieser Ausprägung zu beobachten ist. Selbst eine kurze Umfrage auf dem Flur eines beliebigen Philosophischen Instituts wird wohl kaum zu einer halbwegs einheitlichen Antwort auf die Frage nach der Definition des eigenen Faches führen. Das zeigt sich allein schon am Verhältnis zur eigenen Geschichte: Während der eine Philosoph die Philosophiegeschichte am liebsten ins Historische Institut verbannen würde (Sorell 2005), wird eine andere Philosophin die Philosophiegeschichte als unverzichtbaren Teil der eigenen Disziplin sehen und ein integrierendes Verhältnis zur eigenen Geschichte fordern, wie es in anderen Fächern nicht anzutreffen ist.

Diese kurze Propädeutik des Fachverständnisses ist für die Beantwortung der Frage nach dem Einfluss von KI auf die Philosophie notwendig, schließlich bestimmt das jeweilige Fachverständnis maßgeblich, in welcher Weise überhaupt KI das Fach tangiert und wie der Einsatz von KI bewertet wird. So bedarf die Analyse der Auswirkungen von KI auf die Philosophie zunächst eines breiten Fachverständnisses, um die Auswirkungen vollumfänglich abzubilden. In diesem Sinn wird Philosophie im Folgenden als historische wie systematische Disziplin verstanden, wobei gerade die Spannung zwischen historischer Analyse und systematischer Perspektive als das produktive Zentrum gesehen wird (Beck/Coomann/Gruevska et al. 2023). Im breitesten Sinn sind die Auswirkungen von KI demnach auf vier Ebenen zu betrachten: Erstens auf der Ebene des philosophiehistorischen Arbeitens, zweitens auf der Ebene des systematischen Philosophierens, drittens als Gegenstand des Philosophierens selbst und viertens auf der Ebene der philosophischen Fachkultur.

1. KI und das philosophiehistorische Arbeiten

Die Philosophiegeschichtsschreibung steht vor der Mammutaufgabe, eine riesige Anzahl von Quellen sichten zu müssen. Während in früheren Jahrzehnten die Philosophiegeschichte um ein paar wenige „große Namen“ zentriert war, wird der Kanon in den letzten Jahrzehnten zunehmend erweitert (Elberfeld 2017, Dutt/Hartung/Sehgal 2024). Blickt man allein auf die in allen Facetten noch zu schreibende Philosophiegeschichte des 20. Jahrhunderts, wird die Problematik deutlich: Von Einzelpersonen existieren oftmals Regalmeter an Primärliteratur und Nachlassmaterialien, die selbst von kompetenten Forscher:innen in einem Leben nicht mehr zu sichten, geschweige denn synthetisierend zu durchdringen sind.

Hier eröffnen die jüngeren Entwicklungen im Bereich der Künstlichen Intelligenz große Chancen, die in der philosophiehistorischen Fachcommunity bislang kaum Anwendung gefunden haben (Vogeler 2019, Döring/Haas/König et al. 2022, Garcia/Weilbach 2023, Dedema/Ma 2024, Heßbrüggen-Walter 2024). Technologien wie Retrieval-Augmented Generation (RAG) erlauben es schon heute, Forschung unter dem Einsatz von KI auf kuratierte, valide Datensätze zu stützen. Damit werden beispielsweise Begriffsentwicklungen in tausenden Dokumenten nachvollziehbar, die früher ein halbes Forscher:innenleben beansprucht hätten. Ebenfalls wird es möglich, relevante argumentative Strukturen an entlegenen Orten zu identifizieren, die über eine einfache Stichwortsuche nicht auffindbar wären.

Es geht hier jedoch nicht einfach um Effizienzsteigerung. Vielmehr kann KI im Bereich der Philosophiegeschichtsschreibung auch den Blick für das Abseitige, das Nicht-Kanonische öffnen, das im herkömmlichen Archivbetrieb oft übersehen wurde. Der Gewinn ist nicht die Zeitersparnis, sondern die Weitung des Horizonts, die erst die Grundlage für eine wahrhaft synthetisierende Urteilskraft bildet. Die Gefahr besteht dabei fraglos in einer Verschiebung von Hermeneutik zu technischer Heuristik: Während RAG-Systeme die Auffindbarkeit von Stellen revolutionieren, leisten sie nicht die Sinnkonstitution. Die Herausforderung besteht darin, den Output der Maschine nicht mit dem Akt des Verstehens zu verwechseln, um nicht einer rein quantitativen Philologie das Wort zu reden. LLMs „verstehen“ bekanntlich nichts von dem, was sie ausgeben; es handelt sich lediglich um eine umfassende statistische Mimikry, deren Fähigkeiten jedoch ohne Frage beeindruckend sind und den Forschungsprozess bereichern können.

2. KI und das systematische Philosophieren

Gemäß der klassischen universitären Unterscheidung steht dem historischen Arbeiten das systematische Philosophieren gegenüber. Dem eigenen Verständnis seiner Repräsentant:innen nach geht es dabei nicht um die Rekonstruktion historischer philosophischer Positionen und deren Kontext, sondern um das Philosophieren mit eigener Stimme in gegenwärtigen Debatten. In den letzten Jahrzehnten hat sich hierbei ein an Naturwissenschaften angelehnter Gestus durchgesetzt: Es wird in der Regel in Form weitgehend normierter „Papers“ („In the following paper I will argue…“) in Journals und in englischer Sprache publiziert. Insbesondere in jenen philosophischen Strömungen, die einen stark formalisierten, unpersönlichen Stil kultivieren, wurde der technischen Reproduzierbarkeit unbeabsichtigt der rote Teppich ausgerollt: Wo die Sprache sich selbst zum normierten Medium der Informationsvermittlung degradiert, macht sie sich gegenüber der KI austauschbar. Die frühere Breite philosophischer Ausdrucksformen, angefangen beim sokratischen Dialog auf Athener Marktplätzen über Aphorismen, Abhandlungen und Essays, ist zunehmend einer einzigen schematischen Form gewichen, die sich äußerlich nicht mehr von naturwissenschaftlicher Prosa unterscheiden lässt. Wenn philosophische Einsicht nur noch als korrekt prozessierte Information gilt, dann ist KI nicht mehr ihr Werkzeug, sondern ihr logischer Nachfolger.

Moderne Sprachmodelle imitieren diesen normierten, unpersönlichen Stil inzwischen verblüffend gut. Sie wägen Argumente ab, erzeugen logische Ableitungen und erledigen in Sekunden Aufgaben, die noch vor wenigen Jahren intensives Nachdenken erforderten. Versteht man Philosophie primär als Produktion publizierbarer Erkenntnisse, erscheint KI als enormer Fortschritt: Sie befreit von Formulierungsmühsal, stellt einen unermüdlichen Sparring-Partner bereit und steigert die Publikationseffizienz dramatisch. Dagegen lässt sich ein Philosophieverständnis setzen, das Philosophie im Kern als Ausdruck begreift. Aus dieser Perspektive ist die sprachliche Form kein bloßes Transportmittel für Argumente, die man beliebig outsourcen könnte, sondern integraler Bestandteil einer Lebenspraxis. Eine KI kann zwar statistisch nachahmen, aber sie kann nicht ausdrücken, weil ihr die existenzielle Notwendigkeit fehlt, die jeden echten philosophischen Satz auszeichnet. Eine Lebenspraxis hat notwendigerweise eine subjektive Seite, in der es um den konkreten Vollzug einer Entdeckung geht. Verstehen wir Philosophie nicht nur als Wissens- und Argumentationsmaschinerie, sondern als Ausdruck, kann ein rein technischer Ersatz kaum befriedigen. Ohne Frage sind LLMs hilfreiche Tools zur Schärfung von Argumenten und grandios als „geduldige“ Korrektoren und Lektoren – und trotzdem bleibt das eigene Philosophieren unersetzbar: Denn der Ausdruck lässt sich nicht an einen Algorithmus auslagern. Dieser lässt sich nur in einer Lebensform realisieren, nicht im bloßen Erhalt eines Ergebnisses.

3. KI als Gegenstand der Philosophie

Auch auf das öffentliche Bild der Philosophie hat KI einen maßgeblichen Einfluss. Lange Jahre galt Philosophie vor allem als brotlose Kunst oder fruchtlose Schöngeisterei. Seit Ende November 2022 hat sich dies mit dem Launch von ChatGPT jedoch spürbar geändert: Wer sich professionell mit Philosophie befasst, erkennt, dass das Vorrücken der Technologie in das Massenbewusstsein klassischen philosophischen Fragen zu neuer Konjunktur verhilft. Plötzlich scheint es für einen großen Teil der Bevölkerung einsichtig, wofür man Philosophie braucht – auch wenn die Fragen teils mehr Science-Fiction-Szenarien betreffen als die Realität.

Gleichzeitig wird KI für die philosophischen Debatten und Begriffe selbst zum Prüfstein. Pointiert könnte man sogar sagen: Kein anderes geisteswissenschaftliches Fach erfährt durch das Vorrücken der KI eine derartige Renaissance seiner klassischen Fragestellungen. KI ist für die Philosophie nicht nur ein neues Thema unter vielen, sondern der ultimative Katalysator, da sie philosophische Themen aktuell macht, wie es keine andere Technologie zuvor vermochte. Zu denken ist exemplarisch an die Themen Bewusstsein, Subjektivität, Intentionalität oder Sprachfähigkeit. Gedankenexperimente wie das „Trolley-Problem“ oder John Searles „Chinesisches Zimmer“ werden nun plötzlich in neuer Weise aktuell und fordern das philosophische Denken heraus (Searle 1980, Thomson 2020). Fragen nach Agency, Leiblichkeit, Bewusstsein und dem menschlichen Proprium werden plötzlich in neuer Weise virulent und neu akzentuiert. Die KI-Revolution zwingt die Philosophie also nicht nur zur Reflexion der Rolle des methodischen Einsatzes, sondern auch zur Rückwirkung von KI auf ihre eigenen Überzeugungen, Begriffe und Debatten.

4. KI und die Fachkultur

KI betrifft nicht nur das philosophische Arbeiten im engeren Sinn, sondern auch die Fachkultur. Diese ist in den letzten Jahrzehnten so umgebaut worden, dass der Fokus maximal auf quantifizierbaren Output gelegt wird. Die rar gesäten Stellen an den Universitäten werden in aller Regel unter denjenigen aufgeteilt, die in möglichst angesehenen englischsprachigen Journals veröffentlichen und deren Aufsätze ein „peer review“ durchlaufen haben. Dabei zählt vor allem der maximale Output, nicht unbedingt der innovativste Gedanke – der in der Tradition der Philosophie durchaus auch die Form eines Aphorismus haben konnte. Fest steht jedenfalls, dass KI die Outputorientierung aktuell weiter befeuert: Wer weniger publiziert, wird mehr und mehr unter die Räder geraten, solange nicht die Bewertungskriterien fundamental geändert werden. Folglich wird man es auch keinem zum Vorwurf machen können, verschiedene KI-Tools zu benutzen, um den eigenen Output weiter zu maximieren.

Steuern wir auf ein reinigendes Gewitter zu? Die Anzeichen sind bereits unübersehbar: In der akademischen Philosophie werden Massen an Papern produziert, die niemand mehr liest – vielleicht weil alle mit dem Schreiben der nächsten beschäftigt sind. In einer Logik der Effizienz wird die ohnehin winzige Leserschaft von Fachaufsätzen wohl bald vollständig durch LLMs ersetzt, die uns die Flut der Paper mundgerecht zusammenfassen. Am Ende bleibt vielleicht nichts als ein absurder Kreislauf zurück: Philosoph:innen, die mithilfe von KI Texte schreiben, von Reviewer:innen unter Einsatz von KI reviewed werden und am Ende von einer anderen KI für Leser mundgerecht zusammengefasst werden – und die einzige Instanz, die diese Paper im Trainingsprozess noch zur Gänze „liest“, ist der Algorithmus selbst.

5. Komödie oder Tragödie?

Hoffen wir also auf das reinigende Gewitter: Am Ende könnte die zunehmende perfekte Imitation geistiger Vermögen und die exorbitante Effizienzsteigerung dazu führen, dass scheinbar veraltete Formen des Philosophierens zurückkehren: Etwa der kurze, geistreiche Aphorismus oder der nicht-normierte Kurzessay. Auch das mündliche, dialogische Philosophieren in sokratischer Tradition könnte wieder an Relevanz gewinnen. Vielleicht wird sich am Ende die Erkenntnis durchsetzen, dass nicht die maximale Textmenge, sondern der geistreiche Gedanke im Zentrum steht, der durchaus nicht normiert und sehr kurz sein kann. Analog zum „AI-Slop“ in den sozialen Medien droht schließlich „Paper-Slop“ die Fachjournale zu fluten, also lieblos generierte Massenware, die zwar formal perfekt, aber auch ermüdend formalisiert ist. Doch gerade Standardisierung und Überfluss könnten paradoxerweise den Mut befeuern, sich wieder literarischen Formen zuzuwenden, wie sie in der Philosophie über Jahrhunderte anzutreffen waren und uns neue, geistreiche Impulse geben. Der maximal große Output an normierten Texten könnte wiederum verdächtig erscheinen und entgegen heutiger Gepflogenheiten einen Malus darstellen: Dort, wo die Massenproduktion kein Kunstwerk mehr ist, wird die Arbeit am Kleinen vielleicht wieder mehr gewürdigt werden.

Fraglos hat das streng wissenschaftliche Philosophieren beeindruckende Ergebnisse erzielt und wird dies auch in Zukunft noch leisten. Philosophie sollte sich jedoch nicht darauf beschränken. Verstehen wir Philosophie als bloß historische oder systematische Wissensproduktion in engen sprachlichen Formen, werden uns generative KI-Systeme wohl bald überflügeln. Verstehen wir Philosophie hingegen als Ausdruck, dann ist es keineswegs trivial, dass Menschen philosophieren. Hier schlägt die Tragödie in die Komödie um: Es wäre die finale Ironie der Technikgeschichte, wenn ausgerechnet die Hochtechnologie uns zur Rückkehr zum Sperrigen, Analogen und zum Mut für den subjektiven Ausdruck zwingt – weg von der bloßen Output-Maschinerie, hin zu einer Philosophie als Lebenspraxis.

Literatur

Beck, Max/Nicholas Coomann/Julia Gruevska et al. (Hg.) (2023): Welche Bedeutung hat Philosophiegeschichte? Eine Diskussion, in: Zeitschrift für philosophische Forschung 77 (2023), Nr. 4, 526–542). URL: https://doi.org/10.3196/004433023838087548

Dedema, Meredith/Ma, Rongqian (2024): A dancing bear, a colleague, or a sharpened toolbox? The collective use and perceptions of generative AI tools in digital humanities research: Survey-based results. https://doi.org/10.48550/arXiv.2404.12458

Döring, Karoline/Haas, Stefan/König, Mareike et al. (Eds.) (2022): Digital History: Konzepte, Methoden und Kritiken Digitaler Geschichtswissenschaft. https://www.degruyter.com/document/doi/10.1515/9783110757101/html

Dutt, Carsten/Hartung, Gerald/Sehgal, Melanie (Eds.) (2024): Herausforderungen der Philosophiegeschichtsschreibung. Theorien – Methoden – Beispiele, Basel.

Elberfeld, Rolf (Ed.) (2017): Philosophiegeschichtsschreibung in globaler Perspektive, Hamburg.

Garcia, Giselle Gonzalez/Weilbach, Christian (2023): If the Sources Could Talk: Evaluating Large Language Models for Research Assistance in History. https://doi.org/10.48550/arXiv.2310.10808

Heßbrüggen-Walter, Stefan (2024): The Future of Philosophy in the Digital Humanities. https://zenodo.org/records/10698216

Hodel, Tobias (2022): Die Maschine und die Geschichtswissenschaft: Der Einfluss von Deep Learning auf eine Disziplin, in: Döring, Klaus-Dieter/Haas, Stefan/König, Michael et al. (Eds.): Digital History, Oldenburg, 65–80. https://doi.org/10.1515/9783110757101-004

Lewis, Patrick/Perez, Ethan/Piktus, Aleksandra et al. (2020): Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. https://doi.org/10.48550/arXiv.2005.11401

Searle, John (1980): Minds, Brains, and Programs. In: The Behavioral and Brain Sciences, 1980 (3), 417–457.

Sorell, Tom (2005): On Saying No to History of Philosophy, in Ders./Graham Alan John Rogers (Hg.): Analytic Philosophy and History of Philosophy, Oxford, URL: https://doi.org/10.1093/oso/9780199278992.003.0004

Thomson, Judith Jarvis (2020): The Trolley Problem / Das Trolley-Problem, Ditzingen.

Vogeler, Georg (2019): Zum Verhältnis von klassischen Formen der Archiverschließung und den Zugängen der Digital Humanities zum Information Retrieval, in: Schöggl-Ernst, Elisabeth/Stockinger, Thomas/Wührer, Jakob (Eds.): Die Zukunft der Vergangenheit in der Gegenwart. Archive als Leuchtfeuer im Informationszeitalter (= Veröffentlichungen des Instituts für Österreichische Geschichtsforschung, vol. 71), Vienna, 199–212.

Artificial Intelligence in Mathematics: From Peripheral Tool to Proof Partner

The breakthroughs of the past few years should not make us forget AI's earlier feats. Its superiority at chess was established as early as 1997; mastery of image recognition came around 2012. The decisive breakthrough arrived in 2022 with “Generative AI”, particularly Large Language Models (LLMs), exemplified by ChatGPT, which demonstrated unprecedented fluency in natural language processing. Since then, a profusion of models has entered widespread use. Yet certain capabilities — most strikingly spatial reasoning — have remained out of reach, a gap famously illustrated by Yann LeCun's challenge: before worrying about controlling a superintelligent AI, he argued, one would first need “the beginning of a hint of a design for a system smarter than a house cat.”¹

LLMs are now revolutionising a range of professions at very different speeds. My own research discipline, pure mathematics, has long resisted — but is no longer an exception. Already established for auxiliary tasks, LLMs are now making forays at the very core of mathematical research, and we mathematicians are in the process of devising a modus vivendi for our coexistence with them.

I. The First Wave: Peripheral Assistance

The first wave of AI applications in mathematical practice concerned what one might call peripheral tasks — necessary but insufficient for producing new mathematics.

Proofreading and linguistic polish arrived first. LLMs quickly proved adept at improving manuscript formulation, correcting grammar, and raising overall writing quality. For non-native English-speaking authors, this has been a genuine boon. Typesetting assistance followed: models capable of generating LaTeX code, designing presentation slides, and building simple websites substantially reduced the time researchers spend on the mechanics of dissemination. AI can also easily generate useful illustrations for theorems and proofs. Additionally, AI accelerated non-research duties — teaching preparation, grant applications, administrative correspondence — freeing cognitive bandwidth for the core intellectual work.

Perhaps more consequentially, AI transformed bibliographic research. Where a mathematician once spent hours searching specialised databases such as MathSciNet or zbMATH, a well-prompted LLM can now assemble a relevant literature survey in minutes — albeit with the persistent caveat that hallucinated references require verification. Retrieving a paper of which one only vaguely remembers the content, without remembering its title, its authors or the journal where it appeared, becomes possible.

Code generation proved equally valuable: mathematicians increasingly rely on computational experiments to develop intuitions and test conjectures, and LLMs became indispensable partners for writing the Python, Sage, or Lean scripts that support this work. None of these contributions, valuable as they are, touched the mathematical essence: discovering and proving theorems.

II. The Turning Point: Summer 2025

The summer of 2025 marked a watershed. At the International Mathematical Olympiad (IMO), several AI systems achieved scores comparable to gold-medal performance, solving five of the six problems set — demanding challenges that require several hours of sustained creative reasoning from the world's most talented secondary-school students.² The mathematical community was forced to confront an uncomfortable possibility: AI might be capable not merely of executing known algorithms, but of producing something resembling genuine mathematical insight.

The IMO involves closed problems with known solutions, not open-ended research. But the episode catalysed a broader reassessment. Although the IMO-winning models were mostly not made available to researchers, many began exploring the potential of LLMs in mathematics.

III. LLMs as Discussion Partners

When I chat about mathematics with an LLM — whether GPT, Claude or Gemini — the first thing that strikes me is how much nonsense it produces, often plausible-sounding and uttered with extraordinary self-confidence, but nonetheless nonsense. Every mathematician I know has had the same experience. Yet with a bit of patience and care, one can usually extract usable ideas from the conversation. Careful prompt engineering also makes a surprisingly important difference, and asking questions of a reasonable level of difficulty is crucial.

Typical use example. An LLM is particularly helpful when turned to analysing past literature in depth. This goes beyond the retrieval of articles: here one asks an LLM to read and understand an article, not just spot it. A concrete example: a paper C relies on papers A and B. A new paper A′ comes out and improves paper A in some respects. How does this impact paper C? This is a complex task: one must understand how paper C uses A and B, then trace the consequences of replacing A with A′. Such a task typically takes hours for a human alone, but minutes with the help of an LLM.

A success story: the Nesterov conjecture. Ernest Ryu, an optimisation theorist at UCLA, had long grappled with a conjecture proposed in 1983 by Yurii Nesterov concerning the convergence of gradient-descent algorithms. Ryu turned to ChatGPT as an interlocutor. The model made numerous errors — errors Ryu, as a domain expert, could identify and redirect. But the dialogue surfaced productive lines of attack he had not previously considered, and a proof emerged from the exchange. “The use of ChatGPT really accelerated the discovery,” he later said.²

IV. Formal Verification

Even before the LLM revolution, mathematicians had begun formalising proofs using ‘proof assistants’ — software systems in which a theorem and its proof are written in a precise computer language, and where every logical step is automatically checked against a small set of axioms. The most widely used such system today is Lean. The motivation for formalisation is independent of AI: mathematical publications, written in natural language, rely on cited results and often invoke steps that authors claim to be obvious. Subtle errors can therefore slip into peer-reviewed papers and remain undetected for years. The consequences are not merely embarrassing: when a flawed result is later cited and built upon, every theorem that depends on it is thrown into doubt, and entire chains of subsequent work may collapse. A fully formal, machine-checked proof eliminates this risk by construction.

The rise of LLMs has given this enterprise fresh urgency. Models hallucinate plausible-sounding but false mathematics with disturbing fluency; at the same time, they reliably generate code, even in languages as demanding as Lean. The natural response is to require AI-generated proofs to be formalised and independently verified — turning a weakness (hallucination) and a strength (code generation) into a viable workflow.

V. Beyond LLMs: The Impact of Aristotle and AlphaEvolve

The last eight months have seen the rise of a new form of AI: agentic AI — an AI that takes actions autonomously to solve a given task. In the mathematical community, two such agents have gained prominence.

AlphaEvolve and mathematical optimisation. AlphaEvolve, like the world-famous AlphaGo and AlphaFold — the systems that respectively beat the world Go champion in 2016 and predicted protein structures (for which their designers received the 2024 Nobel Prize in Chemistry) — was developed at Google DeepMind. It is described in the November 2025 paper “Mathematical Exploration and Discovery at Scale.”³ AlphaEvolve uses a Gemini-based model to write and iteratively evolve Python programs, guided by automated evaluation of their performance. Tested on 67 problems across several areas of mathematics, it improved upon the best known results in 23 cases, matched the state of the art in 36 others, and fell short only in a handful. The key finding was not merely the results themselves, but their speed: any single result might have required months of effort from a domain expert, but the team — without expertise in many fields — achieved comparable results in a day or two. Another striking result: in January 2026, AlphaEvolve uncovered Bruhat intervals — certain subsets of permutation groups arising in algebraic combinatorics — that are isomorphic to large hypercubes, examples Geordie Williamson, Jordan Ellenberg, and colleagues had sought for years. The discovery pointed toward a new conjecture about an associated combinatorial invariant.⁶

Harmonic's Aristotle. This AI system specialises in translating informal mathematical proofs into formal, machine-checked Lean 4 code. In its autonomous mode it can also try and solve simpler mathematical problems directly.

The Erdős problem collection. One of the most symbolically resonant episodes of this new era concerns the celebrated problem list compiled by Paul Erdős (1913–1996), now curated by Tom Bloom at erdosproblems.com.⁴ In November 2025, Aristotle resolved a simplified variant of problem 124 in this list. In December 2025, Kevin Barreto, an undergraduate student in number theory, together with a collaborator, conducted a systematic experiment: could GPT-5.2 Pro resolve open problems from the number theory section of the list? Their methodology was exacting: any putative proof would be passed to Aristotle for formal verification in Lean 4 before any public announcement.⁵

The experiment yielded genuine results. Problem 728 — concerning the distribution of a certain arithmetic function — was resolved, with a proof strategy cleverly exploiting Chernoff bounds. Terence Tao confirmed its correctness, noting its relationship to work of Carl Pomerance. The proof was adapted for problems 729 and 401; problem 205 was also resolved. “So far, these models have proven that they are capable of conducting literature searches and combining ideas seen in their training to establish new results,” Barreto observed.⁵ Tao's assessment was measured: the approach was not highly novel — similar arguments had appeared in work by Erdős and Pomerance — but its difficulty was not obviously below the threshold of publishable mathematics.

VI. Formal Truth Is Necessary but Not Sufficient — The Need for Enlightening Proofs

As we have just seen, formal verification can mitigate hallucination by anchoring AI-generated proofs in machine-checked logic. Yet correctness, while necessary, is not the whole of what mathematicians ask of a proof.

Tao and Klowden point to a subtler, pre-formal mechanism that AI threatens to bypass: the “smell test.”⁷ Drawing on Thurston, they note that experienced mathematicians assess a proof through an intuitive sense of narrative coherence — whether it explains not just that hypotheses entail a conclusion, but why, which steps carry the weight, and how the strategy connects to the broader literature. AI-generated proofs risk being, in their phrase, “odorless”: formally correct yet philosophically inert, establishing a result without illuminating it.

VII. The Limits of the Current Paradigm

Candour about the current state of AI in mathematics requires acknowledging substantial limitations. The problems resolved to date lie broadly within territory accessible by combining existing techniques in clever ways. Current AI models are powerful explorers of this territory. They are not, as yet, capable of generating fundamentally new mathematical frameworks.

Tao and Klowden propose a useful distinction between the “blue team” (generating new content) and the “red team” (verifying it).⁷ AI is relatively safe in a red-team capacity; it is far riskier when autonomously generating the structural core of arguments, where errors may be subtle. This asymmetry suggests a sensible division of labour.

VIII. Epistemological and Professional Stakes

The emergence of AI as a mathematical collaborator raises questions that extend far beyond methodology. Who is the author of an AI-assisted proof? What is the proper attribution when a model generates a key idea, a human corrects an error, and a proof assistant verifies the result? These questions bear directly on how mathematical knowledge is credited, disseminated, and funded.

A concrete epistemic distortion has already emerged. Tao used AI deep-research tools to survey the literature on Bloom's Erdős site. These summaries were then re-used as authoritative sources by the same tools in subsequent searches — a loop that Randall Munroe had dubbed “citogenesis.”⁸ Even without malicious intent, AI's increasing power requires vigilant vetting of cited provenance.

Tao and Klowden suggest a constructive framing: a cognitive analogue of the Copernican revolution.⁷ Just as astronomy was enriched — not diminished — by abandoning the view that the Earth occupies a centre, mathematics may be enriched by accepting that human and artificial intelligence occupy the same ontological category, with distinctive but complementary properties. This does not dissolve the philosophical questions, but it reorients them: rather than asking whether AI is “really” doing mathematics, we can ask how both modalities together can expand what mathematics achieves. Mathematical practice is changing more rapidly than at any moment since the introduction of the electronic computer — and the discipline's response will define its character for a generation.

References

¹ LeCun, Y., quoted in: Mims, C. (2024). “This AI Pioneer Thinks AI Is Dumber Than a Cat.” The Wall Street Journal, 12 October 2024.

² Kakaes, K. (2026). “The AI Revolution in Math Has Arrived.” Quanta Magazine, 13 April 2026.

³ Gómez-Serrano, J., Wagner, A., Georgiev, B., et al. (2025). “Mathematical Exploration and Discovery at Scale.” Preprint, November 2025.

⁴ Bloom, T. Erdős Problems. www.erdosproblems.com

⁵ Barreto, K. (2026). “Problem 728 and the use of AI on Erdős problems.” Erdős Problems Forum, 26 January 2026.

⁶ Ellenberg, J., Libedinsky, N., Plaza, D., Simental, J., Williamson, G. (2026). “Bruhat intervals that are large hypercubes.” arXiv:2601.01235, 3 January 2026.

⁷ Klowden, T. and Tao, T. (2026). “Mathematical Methods and Human Thought in the Age of AI.” arXiv:2603.26524, 27 March 2026.

⁸ Munroe, R. (2011). “Citogenesis.” xkcd, no. 978. xkcd.com/978/

Argumente und ihre Gründe: Künstliche Intelligenz in der Philosophie

Als das Unternehmen OpenAI im Herbst 2022 ChatGPT veröffentlichte und Künstliche Intelligenz (KI) damit erstmals der breiten Öffentlichkeit zugänglich machte, war die eigentliche Revolution schon längst im Gange: Unter Schlagworten wie „machine learning“, „pattern recognition“ oder „neuronalen Netzen“ hatte sich KI bereits seit mehreren Jahren zu einem unverzichtbaren Werkzeug im Forschungsprozess nahezu aller wissenschaftlicher Disziplinen entwickelt. Von Studien zur Krankheitsdiagnose in der Medizin über die Bestimmung von Proteinstrukturen in der Biologie bis hin zur Analyse von kleinsten Partikeln und Exoplaneten in der Physik konnten Methoden der KI nicht nur eine Vielzahl wissenschaftlicher Anwendungen unterstützen, sondern häufig sogar neue Ergebnisse hervorbringen.¹

Die Philosophie war von dieser Entwicklung zunächst ausgenommen. Lange Zeit waren die existierenden KI-Methoden nicht in der Lage, die philosophische Forschung zu unterstützen oder gar eigene Ergebnisse hervorzubringen, da sie zwar ausgezeichnet Muster in großen Datenmengen erkennen und Vorhersagen erstellen, nicht aber argumentieren und schreiben konnten. Das änderte sich durch die Veröffentlichung von ChatGPT und allen darauffolgenden sogenannten Sprachmodellen. Mit einem Mal war es nicht nur möglich, in einen sokratischen Dialog mit einem digitalen Gegenüber zu treten und so Schwachstellen in der eigenen Argumentation ausfindig zu machen – die KI konnte von nun an begriffliche Analysen, Argumente und ganze Texte, kurz: die Ergebnisse philosophischer Forschung direkt selbst generieren.

Angesichts der Erfolge KI-gestützter Forschung in anderen Disziplinen und im Sinne des wissenschaftlichen Fortschritts könnte man diesen Umstand begrüßen. KI liefert wertvolle Erkenntnisse in Medizin, Biologie, Physik und nun also auch in der Philosophie, weshalb Philosoph:innen Sprachmodelle in den Forschungsprozess integrieren sollten. In der Tat wird diese Position in der Literatur vertreten, unter anderem begründet durch folgenden Hinweis: „in evaluating a philosophical argument, the soundness of the reasoning may be more important than the process of its production.“² KI mag philosophische Argumente zwar ohne den klassischerweise damit einhergehenden Denkprozess erzeugen, aber warum sollte das ein Problem sein, wenn das Resultat korrekt ist?

Die Beantwortung dieser Frage scheint entscheidend für das Ausmaß zu sein, in welchem KI die Forschung einzelner Philosoph:innen und somit die Philosophie als wissenschaftliche Disziplin verändert. Bei näherer Betrachtung zeigt sich allerdings, dass das Zusammenspiel von KI und philosophischer Forschung deutlich komplexer ist, als es die Frage nahelegt. Deutlich wird dies insbesondere im Kontrast mit anderen Disziplinen. Letztere verwenden KI als Werkzeug im Forschungsprozess, analog zu anderen Werkzeugen wie Mikro- und Teleskopen, Massenspektrometern oder statistischen Hypothesentests, um wissenschaftliche Ergebnisse zu erlangen. Der Prozess und die währenddessen verwendeten Werkzeuge sind hierbei insofern relevant, als sie durch ihre Erfüllung wissenschaftlicher Qualitätsstandards wie Reliabilität oder Replizierbarkeit die Übereinstimmung der Resultate mit denselben Qualitätsstandards sicherstellen. 

Anders in der Philosophie: Denkt man etwa an Descartes‘ berühmtes cogito, „ich denke, also bin ich“, so zeigt sich, dass die Überzeugungskraft eines philosophischen Arguments nicht allein auf seiner bloßen Formulierung gründet. Vielmehr speist sich seine Überzeugungskraft aus dem Vollzug des Denkens selbst, der bei Descartes und guter philosophischer Arbeit generell Niederschlag im Text findet und dort nach-vollzogen werden kann. Ein philosophisches Argument mag für sich genommen gültig sein, die Rechtfertigung seiner Prämissen und die Bedeutung der verwendeten Begriffe ergeben sich jedoch aus einer ganzen Argumentationskette, insbesondere den im Text explizierten und rekonstruierbaren Begründungszusammenhängen – wie bei Descartes‘ cogito, das nur durch das Nachvollziehen seines gesamten Gedankengangs überzeugen kann.³  Während dem Forschungsprozess in den meisten wissenschaftlichen Disziplinen also eine instrumentelle Bedeutung für die Hervorbringung und Qualitätssicherung der Resultate zukommt, ist er in der Philosophie konstitutiver Bestandteil ebendieser Resultate. Der philosophische Forschungsprozess ist nicht ein bloßes Mittel zum Erkenntnisgewinn, sondern Teil des Erkenntnisziels selbst, da er begriffliche Analysen, Annahmen und Werturteile enthält, die im Text nachvollziehbar gemacht werden. KI als Werkzeug der philosophischen Forschung kann demzufolge nicht ausschließlich anhand der von ihr erzeugten Argumente bewertet werden, sondern nur in Verbindung mit dem jeweils relevanten Prozess, auf dem die Argumente beruhen.

Man könnte diese Präzisierung nun zur Kenntnis nehmen und dennoch eine positive Haltung gegenüber KI-gestützter philosophischer Forschung beibehalten: Ein komplexes Zusammenspiel von Forschungsprozess und Resultaten in der Philosophie muss nicht zwingend bedeuten, dass KI hier keinen wertvollen Beitrag liefern kann. Liegt es nicht in der Natur moderner Sprachmodelle Texte zu erzeugen und damit im Bereich des Möglichen, dass zusätzlich zu bloßen philosophischen Argumenten auf Nachfrage auch die jeweils konstitutiven Analysen, Annahmen und Werturteile mitgeliefert werden? Auch hier scheint die Beantwortung der Frage wieder entscheidend für das Ausmaß zu sein, in welchem KI die Forschung einzelner Philosoph:innen und somit die Philosophie als wissenschaftliche Disziplin verändert. Und auch hier offenbart sich die tatsächliche Komplexität des Sachverhalts erst bei näherer Betrachtung.

Denn selbst die Beschreibung des Forschungsprozesses als konstitutiven Bestandteil der Resultate in der Philosophie greift noch zu kurz. Entscheidend ist nicht der Prozess als solcher, sondern der Zugang zum Begründungszusammenhang eines philosophischen Ergebnisses. Man denke etwa an die klassische Bestimmung des Begriffs ‚Wissen‘ als ‚gerechtfertigte, wahre Überzeugung‘. Zunächst scheint es sich dabei um ein bloßes Resultat, genauer um eine begriffliche Analyse, zu handeln: Wissen liegt genau dann vor, wenn eine Überzeugung wahr ist und über eine hinreichende Rechtfertigung verfügt.⁴ Doch wie Descartes‘ cogito gründet sich auch die Überzeugungskraft dieser Analyse nicht allein auf ihre Formulierung. Vielmehr hängt sie vom zugrunde liegenden Begründungszusammenhang ab, also davon, wie die einzelnen Bestandteile verstanden, in Beziehung gesetzt und als notwendige Bedingungen für das Vorliegen von Wissen gerechtfertigt werden. Entscheidend ist dabei nicht, dass das Resultat auf einem bestimmten Weg zustande gekommen ist, sondern dass sein Begründungszusammenhang nachvollzogen werden kann. Erst dieser gewährt Einsicht in die Gründe, die für ein philosophisches Resultat sprechen, sei es Descartes‘ cogito oder der klassische Wissensbegriff.

Genau an dieser Stelle ergibt sich jedoch die größte Herausforderung durch KI für die philosophische Forschung. In der Tat scheint KI inzwischen in der Lage zu sein, über philosophische Resultate hinaus auch deren Begründungszusammenhänge explizit darzustellen. Sprachmodelle können Begriffe definieren, Annahmen rechtfertigen und sogar Einwände antizipieren oder entkräften – also genau jene Elemente erzeugen, die für gewöhnlich den Zugang zu einem philosophischen Resultat und dessen Nachvollziehbarkeit sicherstellen sollen. Auf den ersten Blick scheint KI folglich ein entscheidendes Gütekriterium philosophischer Forschung erfüllen zu können. Doch jeder auf diese Weise erzeugte Zugang zum Begründungszusammenhang eines Arguments oder einer begrifflichen Analyse ist eigentümlich brüchig.

Der Grund hierfür liegt darin, dass ein von der KI dargestellter Begründungszusammenhang nicht notwendigerweise derjenige ist, der das Argument trägt oder die begriffliche Analyse stützt. Zentrale Elemente wie Definitionen, Annahmen und Werturteile erscheinen zwar auch beim Einsatz von KI explizit im Text. Gerade weil Sprachmodelle auf probabilistischen Verfahren beruhen, ist jedoch zweifelhaft, ob diese Elemente tatsächlich den jeweils relevanten Begründungszusammenhang zugänglich machen und nicht vielmehr die bloße Fiktion eines Begründungszusammenhangs erzeugen.⁵ Dieser wirkt zugänglich, ohne dass gesichert wäre, worauf er sich gründet.

Am Beispiel der klassischen Bestimmung des Begriffs ‚Wissen‘ als ‚gerechtfertigte, wahre Überzeugung‘ lässt sich auch dieser Punkt verdeutlichen. Ein Sprachmodell wäre problemlos in der Lage, die Bestimmung wiederzugeben, ihre Bestandteile zu erläutern und sie in einen scheinbar kohärenten, im Text zugänglichen Begründungszusammenhang einzubetten. Doch gerade hier zeigt sich die oben erwähnte Brüchigkeit: Zwar mag die KI die relevanten Begriffe – ‚Wahrheit‘, ‚Rechtfertigung‘, ‚Überzeugung‘ – korrekt verwenden und sie in nachvollziehbaren Sätzen gegeneinander abgrenzen – die Gründe für die jeweilige Verwendung und Abgrenzung bleiben aber im Dunkeln.

Besonders deutlich wird dies im Kontext der sogenannten Gettier-Fälle. Dabei handelt es sich um Beispiele, die zeigen sollen, dass eine gerechtfertigte, wahre Überzeugung nicht hinreichend für Wissen und der klassische Wissensbegriff somit mindestens unvollständig ist.⁶ So könnte etwa eine Person beim Blick auf eine stehen gebliebene, aber zufällig dennoch richtige Uhr eine wahre und gerechtfertigte Überzeugung über die aktuelle Uhrzeit bilden, ohne dass ihr in diesem Fall sinnvoll Wissen zugeschrieben werden kann. Auch hier könnte ein Sprachmodell ohne Weiteres die Struktur des begrifflichen Problems korrekt darstellen, zur Veranschaulichung weitere Beispiele aus der Literatur anführen oder gar eigene Beispiele konstruieren. Die eigentliche philosophische Leistung liegt jedoch nicht in der Darstellung des Problems oder der bloßen Angabe von Beispielen. Vielmehr besteht sie in der Fähigkeit zu erkennen, warum die Gettier-Fälle den klassischen Wissensbegriff in Frage stellen, was einen Zugang zu den zugrunde liegenden Begründungszusammenhängen voraussetzt, der über eine bloße Wiedergabe von Sachverhalten hinausgeht.

Die Gettier-Fälle zeigen exemplarisch eine Problematik, mit der neue, durch den Einsatz von KI gewonnene philosophische Resultate ebenfalls konfrontiert sind. Auch in diesen Fällen bliebe die KI oft an der Oberfläche der Rechtfertigung stehen, der dargestellte Begründungszusammenhang wäre in seiner Entstehung nicht nachvollziehbar und deshalb nur scheinbar zugänglich. Philosophische Forschung, ob KI-gestützt oder nicht, besteht daher nicht in der bloßen Hervorbringung von Argumenten, sondern zwingend in der Eröffnung eines verlässlichen Zugangs zu ihren Gründen. Hierin liegt der womöglich größte Einfluss der KI auf die Philosophie: Nicht allein die Frage, ob ein Argument in sich kohärent und überzeugend ist, steht im Vordergrund, ebenso wenig die Frage nach dem Prozess, aus dem es hervorging, sondern ob der Zugang zu seinen Gründen tatsächlich gegeben ist. Die Qualität philosophischer Forschung bemisst sich dann nicht nur an der Struktur von Argumenten, sondern an der Zugänglichkeit ihrer Begründung. Die KI zwingt die Philosophie also dazu, ihre Qualitätsstandards kritisch zu reflektieren – und wird ihnen zugleich selbst (noch) nicht gerecht.

¹ Buchholz, O. (2025). Maschinelles Lernen in der Wissenschaft. In Noller, J., Reinhardt, K. (Hrsg.). Handbuch Philosophie der Digitalität: Eine systematische und ethische Orientierung. Berlin, Heidelberg: Springer, S. 1-12.

² Porsdam Mann, S., Vazirani, A. A., Aboy, M., Earp, B. D., Minssen, T., Cohen, I. G., & Savulescu, J. (2024). Guidelines for ethical use and acknowledgement of large language models in academic writing. Nature Machine Intelligence, 6(11), 1272-1274.

³ Nachzuvollziehen in Descartes, R. (2005 [1644]). Die Prinzipien der Philosophie. Hamburg: Felix Meiner Verlag, S. 11ff.

⁴ Ernst, G. (2007). Einführung in die Erkenntnistheorie. Darmstadt: WBG, S. 69.

⁵ Mallory, F. (2023). Fictionalism about Chatbots. Ergo an Open Access Journal of Philosophy, 10(38).

⁶ Gettier, E. L. (1963). Is Justified True Belief Knowledge? Analysis, 23(6), 121-123.

When the Past Becomes Machine-Readable: AI and the Conditions of Historical Knowledge

Introduction

In the summer of 2025, less than three years after the public release of ChatGPT, historians found themselves cast as the second-most replaceable professionals by generative AI (genAI).¹ The claim stemmed from a Microsoft analysis that ranked their occupation near the top for AI applicability.² While the research itself did not advance a narrative of job replacement, focusing instead on particular work activities for which current AI systems are most frequently used, the episode showed how quickly the profession of history is reduced to information-gathering and fluent prose. Yet, genAI’s rapid public adoption for content creation, and its now almost ubiquitous presence in academic research ecosystems, still force historians to confront three questions: how AI alters the nature and management of historical sources; what historical claims can be warranted through AI-mediated sources and workflows; and what genAI does to the writing of history in its broadest sense, academic and non-academic alike.

At first glance, AI-driven systems appear poised to lower barriers to historical knowledge by supporting the production, discovery, and dissemination of archival sources and narratives. The question for professional historians, however, is not availability and circulation alone, but what kinds of historical claims such systems can sustain. Historical scholarship ties claims to verifiable evidence, evaluates that evidence in light of provenance and context, and treats uncertainty, silence, and contestation in the records as part of the argument rather than as gaps to be smoothed over. While AI does certainly have the capacity to meaningfully assist with certain tasks historians perform, if historical writing is to remain credible, its evidentiary and interpretive standards must continue to be set by historical scholarship rather than by systems designed to generate plausible content at scale.

AI-Mediated Archives and Uneven Historical Visibility

Historical scholarship stands to benefit from current AI systems’ capacity to process sources at scale. With machine-learning-driven text-recognition systems, for example, entire newspaper runs can be scanned, administrative files digitized, and millions of pages aggregated into searchable collections. LLM-based tools, then, can help researchers navigate this material by linking, summarizing, and comparing documents, suggesting search terms, and identifying semantic patterns or conceptual relations that would be difficult to trace through conventional close reading alone.³

From within the discipline, however, the picture is more complicated.  Many historians will point out that the epistemic posture of their scholarship is different from that presupposed by AI systems. To begin with, for much of the human historical record, the conditions under which current models perform well -abundant and sufficiently standardized data- are absent. Even when they are abundantly available, historical sources are situated traces created within particular cultural contexts, linguistic conventions, and material constraints, and their evidentiary value is inseparable from those conditions of production. Turning such traces into computer tractable data is not a neutral translation. It requires choices about selection and exclusion, digitization and pre-processing, regularization and normalization. Each step increases computational legibility, but it does so by abstracting away some portion of the source’s historical situatedness.

This tension becomes most evident in the tools that turn archival holdings into computer readable material. Much of the historical record enters LLM-mediated workflows through Automated Text Recognition (ATR), now largely driven by machine-learning models trained on labeled ground truth. ATR can make previously unwieldy bodies of material searchable, linkable, and comparable. A historian can, for example, follow a person’s name across decades of newspapers, trace an administrative term across a ministry’s files, or assemble references to a port, village, or tribe across scattered repositories.

These gains, however, are conditional. ATR accuracy depends on the properties of the sources (size of the corpus, layout stability, script type, damage and bleed-through, etc.) and on sustained investments in digitization, model training, and maintenance. The result is not only uneven accuracy in ATR outputs across archival collections but also uneven visibility. Well-resourced collections, typically housed in Europe and North America, become increasingly searchable, while many linguistically, geographically, or politically marginalized archives remain undigitized, partially digitized, or poorly recognized.

A parallel shift is underway for multi-media sources. Speech-to-text AI can make oral-history collections and broadcast archives searchable at a granularity that previously required intensive manual indexing. Image and video recognition can surface patterns across photographic archives, newsreels, and institutional video holdings. As with ATR, however, the gains are unevenly distributed. In audio, accuracy varies by language and accent, while in images and video, degraded formats and historically and culturally specific material can lead to systematic omissions or misclassifications.⁴

For both ATR and multimodal outputs, AI infrastructures also change the status of the digital surrogate itself. Whereas until recently, historians treated the transcriptions of historical collections, textual or multi-media, as relatively stable scholarly artifacts, under AI-driven recognition, the accessible material becomes a model-mediated surrogate where a named entity or an image label may shift as the AI models are updated, and it may do so without notification to downstream users. This has important implications for the stability and versioning of digital surrogates, and, therefore, for the reproducibility and verification of research findings.

Once historical collections have been rendered machine-readable, a second layer of filtering follows. LLM-based discovery agents, now embedded in widely used research platforms, operate only on material that has already undergone digitization, recognition, and indexing. While such systems may accelerate discovery across large collections, they also make their dependencies easier to forget. They cannot retrieve what lies outside the machine-readable universe. Materials that are not digitized, not reliably recognized, or not indexed in ways the interface can exploit are functionally absent from the digital archive in which these agents operate, regardless of their historical significance. Moreover, even within the machine-readable universe, these systems can produce false negatives that obscure relevant materials and false positives that foreground documents whose apparent relevance is an artifact of recognition errors, indexing choices, or genAI’s inferential overreach. What appears to the user as a neutral traversal of the archive is thus, increasingly, an interaction with a curated and AI-mediated subset of it that has been shaped by prior technical and institutional decisions.⁵

Verification and record pollution

Another issue that arises when historical sources are incorporated into AI systems is verification. In traditional scholarship, a reader expects a relatively direct chain from claim to citation to source. In AI-assisted workflows, claims pass through additional layers, making the link between assertion and evidence indirect or obscured.

One immediate consequence of this opacity is the risk of ‘hallucination’, i.e., the confident generation of false information. In historical scholarship, this is a serious but conceptually straightforward issue. For professional historians, an AI-generated summary, citation list, or narrative synthesis does not function as evidence; at most, it can serve as a provisional lead that must be re-anchored in verifiable sources. The question of AI hallucination reinforces the core principle of rigorous scholarship: historical claims hold only insofar as they can be traced to identifiable sources that are then assessed for provenance and context.

The same concern has an outward-facing form that extends beyond academic practice. AI-generated text is now produced at scale for public consumption as fabricated quotations attributed to historical personalities or short-form popular history narratives designed for attention economies. GenAI does not merely produce these types of unverifiable claims, but also manufactures source-like objects, such as images, audio, and video, that are presented as “evidence”. Fabricated evidence is certainly not new in historical work; what changes under genAI is the ease and scale with which plausible narratives and synthetic, “evidence-like” artifacts are produced and circulated. Some of this material is intentionally deceptive, serving certain political agendas or conspiracy narratives; much of it is simply low-quality content optimized for engagement rather than accuracy.

For historical scholarship, this outward-facing problem matters for at least two reasons. First, it affects the present-day information environment from which many historians draw contextual knowledge and teaching materials. Second, it reconfigures the future historical record. If archives capture today’s web as tomorrow’s historical record, they will inherit vast quantities of synthetic material whose authorship, intent, and relationship to underlying events and evidence are opaque.

This does not, however, mean that genAI’s role in public-facing historical work is necessarily corrosive. The same tools that enable mass production of synthetic and misleading historical content may also support countervailing practices such as the rapid creation of educational materials that are explicitly sourced and revised by historians; public-history interfaces that foreground uncertainty, context, and provenance; and human-in-the-loop curation and preservation workflows that use AI to scale description and labeling of historical sources without displacing professional judgment.⁶ In such cases, the value of genAI lies not in automating historical authority but in supporting scholarly workflows that keep provenance, AI intervention, and revision visible.

Conclusion

AI is changing the field of history in ways that go well beyond the prospect of more efficient information retrieval and synthesis as it reshapes the conditions under which historical sources are created and become accessible. AI systems turn historical sources into model-mediated surrogates; they change what kinds of historical claims can be warranted through those surrogates and the interfaces built on them; and they change the broader environment in which history is written, circulated, and later archived. As the public record is increasingly populated by synthetic, misleading, and weakly attributable historical content, genAI is also changing the future archive.

If AI is to contribute meaningfully to historical scholarship, it cannot be treated simply as a neutral research instrument. Its outputs must remain governable and open to scrutiny. This requires clearer disclosure of the conditions under which digital surrogates were produced and retrieved. It also requires scholarly and institutional practices that preserve traceability between claim, interface, and source. AI may widen access to the past, but whether it strengthens historical knowledge depends on whether that access remains accountable to evidence, and that needs to be governed by the methodology of historical scholarship.

¹ Todd C. Frankel, “Will Historians Really Be Replaced by AI? They Remain Skeptical,” Washington Post, August 25, 2025, https://www.washingtonpost.com/business/2025/08/24/ai-job-replacement-historians/

² Kiran Tomlinson, Sonia Jaffe, Will Wang, Scott Counts, and Siddharth Suri, “Working with AI: Measuring the Applicability of Generative AI to Occupations,” arXiv, submitted July 10, 2025, revised December 22, 2025, doi.org/10.48550/arXiv.2507.07935

³ See, for example, Henriot 2025; Simons, Zichert, and Wüthrich 2025.

⁴ Koziarski and Cyganek 2018; Koenecke et al. 2020.

⁵ Finn and Khosrowi 2025.

⁶ See, for example, Averkamp et al. 2021.
 

Bibliography

Averkamp, Shawn, Kerri Willette, Amy Rudersdorf, and Meghan Ferriter. 2021.
Humans-in-the-Loop: Recommendations Report. Library of Congress Labs. November 29, 2021.

Finn, Finola, and Donal Khosrowi. 2025. “AI Assistants in the Archive and the Lure of ‘Instant History.’” Preprint, forthcoming in Cambridge Forum on AI: Culture and Society, special issue “AI and Archives.” PhilSci-Archive, August 1, 2025. philsci-archive.pitt.edu/id/eprint/26886

Frankel, Todd C. “Will Historians Really Be Replaced by AI? They Remain Skeptical.” Washington Post, August 25, 2025.

Henriot, Christian. “The AI-Augmented Research Process: A Historian’s Perspective.” arXiv preprint, August 3, 2025.

Koenecke, Allison, Andrew Nam, Emily Lake, Joe Nudell, Minnie Quartey, Zion

Mengesha, Connor Toups, John R. Rickford, Dan Jurafsky, and Sharad Goel. 2020.

“Racial Disparities in Automated Speech Recognition.” Proceedings of the National Academy of Sciences 117, no. 14: 7684–7689. 

Koziarski, Michal, and Boguslaw Cyganek. 2018. “Impact of Low Resolution on Image Recognition with Deep Neural Networks: An Experimental Study.” International Journal of Applied Mathematics and Computer Science 28, no. 4: 735–744.

Simons, Arno, Michael Zichert, and Adrian Wüthrich. “Large Language Models for History, Philosophy, and Sociology of Science: Interpretive Uses, Methodological Challenges, and Critical Perspectives.” arXiv preprint, June 13, 2025.

Tomlinson, Kiran, Sonia Jaffe, Will Wang, Scott Counts, and Siddharth Suri. “Working with AI: Measuring the Applicability of Generative AI to Occupations.” arXiv. Submitted July 10, 2025; revised December 22, 2025. doi.org/10.48550/arXiv.2507.07935

The Silent Oracle: The Erosion of Mechanistic Inquiry in the Age of Artificial Intelligence

Introduction

Biochemistry has traditionally pursued explanation before prediction. From enzyme kinetics to structural biology, researchers sought to uncover the physical and chemical mechanisms governing molecular behavior. Experimental confirmation validated theoretical insight, and failed predictions refined mechanistic models (Popper, 1959).

Artificial intelligence is changing that sequence. Modern deep learning systems can infer protein structures, binding affinities, and even candidate drug molecules directly from data (Janes and Beltrao, 2024). In many cases, their predictions rival or surpass experimental benchmarks (Jumper et al., 2021). Yet these outputs frequently lack transparent chemical reasoning. The algorithm provides an answer without revealing the causal pathway behind it.

This transformation is not merely technological; it is epistemological. The discipline is shifting from deduction grounded in first principles toward induction derived from large-scale statistical correlations (Coveney et al., 2016). As Pearl and Mackenzie (2018) argue, correlation alone does not constitute causation. The critical issue is not whether AI works; it demonstrably does, but whether predictive accuracy alone constitutes scientific understanding.

1. From first principles to pattern recognition

Classical theoretical biochemistry begins with physical laws. Molecular behavior is explained through thermodynamics, statistical mechanics, and quantum chemistry (Dirac, 1929). Within this framework, structure emerges from energy minimization, and function arises from defined interactions. Prediction is meaningful because it is anchored in causality.

Deep learning systems operate differently. Rather than solving physical equations explicitly, they identify statistical regularities across enormous datasets (Agrawal et al., 2018). AlphaFold, for example, does not simulate the full folding trajectory of a protein; instead, it infers spatial relationships between residues by learning from known structural databases (Jumper et al., 2021). The resulting prediction can be remarkably accurate, yet the underlying reasoning remains opaque.

This represents a reversal of scientific order. Traditionally, mechanism generated prediction. Increasingly, prediction precedes mechanism. We have entered what Hey et al. (2009) describe as the “Fourth Paradigm” of data-intensive discovery. While this inversion enhances efficiency, it risks decoupling prediction from causal comprehension.

2. Before and after AI in biochemistry

The methodological shift becomes clearer when contrasting research paradigms.

In the traditional model, theory-constrained exploration. In the AI-augmented model, computation expands possibility space far beyond human intuition. The laboratory increasingly validates algorithmic proposals rather than generating primary hypotheses.

Acceleration is an undeniable benefit. What once required years of crystallography can now be approximated computationally within hours (Callaway, 2020). Yet speed introduces asymmetry: explanation may lag behind prediction. The discipline must decide whether such asymmetry is temporary or structural.

3. The illusion of the solved structure

The success of AlphaFold at CASP14 led some commentators to declare protein folding “solved” (Callaway, 2020). Yet structural prediction addresses only one dimension of the problem. Proteins are dynamic entities navigating complex energy landscapes (Frauenfelder et al., 1991). Levinthal’s paradox concerns how proteins efficiently locate native states among astronomical possibilities (Levinthal, 1969).

Predicting a final structure does not necessarily explain how that structure forms, how stable it is under physiological conditions, or how it transitions between functional states. In diseases driven by misfolding or aggregation, dynamic processes are central (Dobson, 2003). A static structural prediction may offer limited insight into these mechanisms.

Furthermore, intrinsically disordered proteins challenge structure-centric assumptions. Their biological activity depends on flexibility rather than a stable tertiary form. Models trained primarily on ordered structures risk imposing artificial rigidity on systems where disorder is functional.

Thus, while AI has dramatically advanced structural prediction, it has not eliminated the need for mechanistic exploration of molecular dynamics.

4. The Danger of black box pharmacology

AI-driven drug discovery extends this tension. Generative models can design novel compounds, predict binding affinities, and optimize molecular features at unprecedented scale (Zhavoronkov et al., 2019). The chemical search space, once constrained by human intuition, is now computationally navigable (Polishchuk et al., 2013).

However, predictive success does not guarantee mechanistic validity. Models may exploit statistical artifacts within training datasets rather than genuine biochemical principles, a phenomenon sometimes described as the “Clever Hans” effect (Lapuschkin et al., 2019). Compounds that appear promising computationally may fail under experimental scrutiny.

If researchers treat algorithmic outputs as authoritative rather than provisional, the norm of falsifiability weakens (Popper, 1959). Drug discovery risks becoming a filtering exercise over machine-generated candidates rather than a mechanistic inquiry into molecular interactions.

AI should expand the hypothesis space, not replace theoretical reasoning. Without critical interrogation, statistical correlation may masquerade as causation (Pearl & Mackenzie, 2018).

5. Reclaiming the human role – The scientist as interrogator

The integration of AI does not diminish the scientist’s role; it transforms it. When algorithms generate predictions, researchers must ask why those predictions arise. Where does the model succeed? Where does it fail? What biochemical principles are implicitly encoded within its parameters?

The scientist becomes an interrogator of outputs rather than merely a generator of hypotheses. Experimental design shifts toward stress-testing algorithmic predictions, probing edge cases, and uncovering hidden assumptions embedded in training data (Holzinger et al., 2017).

Explainable AI tools may assist in this effort (Guidotti et al., 2018), but interpretability cannot substitute for domain expertise. Mechanistic literacy remains essential. As Feynman (1974) warned, scientific integrity depends on resisting self-deception. Prediction accelerates discovery. Interpretation safeguards knowledge.

Conclusion

Artificial intelligence is reshaping biochemistry by altering the order of discovery. Predictive systems now operate at scales and speeds previously unimaginable, generating structures and molecules with extraordinary efficiency (Jumper et al., 2021). Yet this power introduces epistemological tension. When prediction precedes explanation, the meaning of understanding must be reconsidered.

Biochemistry need not choose between mechanism and machine learning. The most productive future lies in integration: AI as hypothesis generator, theory as interpretive framework, experiment as arbiter of truth.

Predictive accuracy is transformative. Causal explanation remains indispensable (Pearl & Mackenzie, 2018). The continued integrity of biochemistry depends on maintaining both.

References

1. Coveney, P. V., Dougherty, E. R., & Highfield, R. R. (2016). Big data need big theory. Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, 374(2080), 20160153.https://doi.org/10.1098/rsta.2016.0153

2. Jumper, J., Evans, R., Pritzel, A., Green, T., Figurnov, M., Ronneberger, O., Tunyasuvunakool, K., Bates, R., Žídek, A., Potapenko, A., Bridgland, A., Meyer, C., Kohl, S. A., Ballard, A. J., Cowie, A., Romera-Paredes, B., Nikolov, S., Jain, R., Adler, J., . . . Hassabis, D. (2021). Highly accurate protein structure prediction with AlphaFold. Nature, 596(7873), 583–589.https://doi.org/10.1038/s41586-021-038192

3. Pearl, J., & Mackenzie, D. (2018). The Book of Why: The New Science of Cause and Effect. Basic Books.

4. Perutz, M. F. (1962). Proteins and Nucleic Acids: Structure and Function. Elsevier.

5. Jänes, J., Beltrao, P. (2024). Deep learning for protein structure prediction and design— progress and applications. Molecular System Biology, 20, 162–169. https://doi.org/10.1038/s44320-024-00016-x 

6. Dirac, P. A. M. (1929). Quantum mechanics of many-electron systems. Proceedings of the Royal Society of London. Series A, 123(792), 714–733. https://doi.org/10.1098/rspa.1929.0094 

7. Hey, T., Tansley, S.,  Tolle, K., & Gray, J. (Eds.). (2009). The Fourth Paradigm: DataIntensive Scientific Discovery. Microsoft Research.

8. Popper, K. (1959). The Logic of Scientific Discovery. Routledge.

9. Callaway, E. (2020). ‘It will change everything’: DeepMind’s AI makes gigantic leap in solving protein structures. Nature, 588(7837), 203–204. https://doi.org/10.1038/d41586-020-03348-4

10. Dobson, C. M. (2003). Protein folding and misfolding. Nature, 426(6968), 884–890. https://doi.org/10.1038/nature02261

11. Frauenfelder, H., Sligar, S. G., & Wolynes, P. G. (1991). The energy landscapes and motions of proteins. Science, 254(5038), 1598–1603. https://doi.org/10.1126/science.1749933

12. Levinthal, C. (1969). How to fold graciously. Mossbauer Spectroscopy in Biological Systems, 67, 22–24. University of Illinois Press.

13. Lapuschkin, S., Wäldchen, S., Binder, A., Montavon, G., Samek, W., & Müller, K. R. (2019). Unmasking Clever Hans predictors and assessing what machines really learn. Nature Communications, 10(1), 1096.https://doi.org/10.1038/s41467-019-08987-4

14. Polishchuk, P. G., Madzhidov, T. I., & Varnek, A. (2013). Estimation of the size of druglike chemical space based on GDB-17 data. Journal of Computer-Aided Molecular Design, 27(8), 675–679.https://doi.org/10.1007/s10822-013-9672-4

15. Zhavoronkov, A., Ivanenkov, Y. A., Aliper, A., Veselov, M. S., Aladinskiy, V. A., Aladinskaya, A. V., Terentiev, V. A., Polykovskiy, D. A., Kuznetsov, M. D., Asadulaev, A., Volkov, Y., Zholus, A., Shayakhmetov, R. R., Zhebrak, A., Minaeva, L. I., Zagribelnyy, B. A., Lee, L. H., Soll, R., Madge, D., Xing, L., Guo, T., Aspuru-Guzik, A. (2019). Deep learning enables rapid identification of potent DDR1 kinase inhibitors. Nature Biotechnology, 37(9), 1038-1040. https://doi.org/10.1038/s41587-019-0224-x 

16. Feynman, R. P. (1974). Cargo cult science. Engineering and Science, 37(7), 10–13.

17. Guidotti, R., Monreale, A., Ruggieri, S., Turini, F., Giannotti, F., & Pedreschi, D. (2018). A survey of methods for explaining black box models. ACM Computing Surveys, 51(5), 1–42.https://doi.org/10.1145/3236009

18. Holzinger, A., Biemann, C., Pattoe, C. S., & Simeone, E. (2017). What do we need to build explainable AI systems for the medical domain? arXiv preprint arXiv:1712.09923. https://doi.org/10.48550/arXiv.1712.09923

Warum plausible KI-Antworten gefährlicher sind als falsche – ein ludditischer Aufschrei

Wir tun den Ludditen oft Unrecht. In der modernen Alltagssprache ist der Begriff „Luddit“ zu einer bequemen Beleidigung geworden. Er ist ein Synonym für rückwärtsgewandte Technophoben, die sich neuen Technologien widersetzen. Teils aus vermeintlicher Ignoranz, Angst vor dem Fortschritt oder schlichter Unfähigkeit, mit dem Wandel Schritt zu halten. Doch diese Etikettierung ist nicht nur historisch ungenau, sondern verdeckt auch eine fundamentale Wahrheit, die wir im Zeitalter der künstlichen Intelligenz (KI) dringender denn je verstehen sollten. In diesem Essay gehe ich darauf ein und möchte, mit etwas Augenzwinkern, einen neuen ludditischen Aufschrei wagen.

Im frühen 19. Jahrhundert zogen Textilarbeiter in England nachts durch die Fabriken und zerstörten Webstühle. Doch ihr Ziel war nicht die Technologie an sich. Die Ludditen waren keine technikfeindlichen Hinterwäldler. Sie waren hochqualifizierte Handwerker, die tiefe Sorgen darüber hatten, wie die Technologie die Struktur ihrer Gesellschaft und die Qualität ihrer Arbeit veränderte. Sie wehrten sich nicht gegen Maschinen im Allgemeinen, sondern gegen, wie sie es nannten, Maschinen, die dem Gemeinwohl schaden („machinery hurtful to commonality“ Sale 1995, S. 261).

Ihr Widerstand richtete sich gegen ein System, das Handwerkskunst durch minderwertige Massenproduktion ersetzte und dabei die soziale und intellektuelle Integrität ihres Berufsstandes opferte. An dieser Stelle sei erwähnt, dass sich die Ludditen in manchen Punkten auch irrten. Sie konnten die langfristigen Produktivitätssteigerungen und den damit verbundenen Wohlstandsgewinn nicht absehen. Allerdings lassen sich zwei Punkte aus ihrem Kampf destillieren, die heute eine erschreckende Relevanz haben: der Kampf gegen die Entwertung der Qualität und der damit verbundene Kompetenzverlust.

Ludditen warnten vor sogenannten „cut-ups“, minderwertigen Massenwaren, die den Markt überschwemmten und die Integrität ihres Berufsstandes untergruben. Sale (1995) beschreibt, dass diese Kleidungsstücke das Aussehen hochwertiger, traditionell gefertigter Waren nachahmten, jedoch strukturelle Mängel aufwiesen, die sie schnell zerfallen ließen. Diese „cut-ups“ waren „deceptive to the eye“ (Sale 1995, S. 67), eine Täuschung für das Auge. Sie erlaubten es Fabrikbesitzern, ungelernte Kräfte einzusetzen, um Produkte herzustellen, die zwar oberflächlich gut aussahen, aber den Kern der Sache (z.B. Haltbarkeit und Meisterschaft der Konstruktion) vermissen ließen. Dieser Prozess führte nicht nur zu schlechteren Produkten. Zentral war auch der Verlust der intellektuellen Lehrzeit, also jenes Wissens, wie man ein Kleidungsstück wirklich konstruiert. Diese Fähigkeit wurde durch die Fähigkeit ersetzt, eine Maschine zu bedienen, die das Ergebnis simuliert.

Dieser Punkt gewinnt im Zeitalter der KI an Relevanz. Zweifellos bereichern KI und Large Language Models (LLMs) die Forschung und den Erkenntnisprozess. KI kann Forschenden nicht nur Routineaufgaben übernehmen, sondern auch neue Erkenntnisse liefern (siehe z.B. AlphaFold, Jumper et al. 2021). Doch die Leistungsfähigkeit der KI birgt auch Gefahren. Denn LLMs werden nicht auf Korrektheit optimiert, sondern auf wahrgenommene Hilfsbereitschaft und Plausibilität (Stichwort: Sycophancy; siehe z.B. Sharma et al. 2023). Der Grund ist strukturell: Über RLHF (Reinforcement Learning from Human Feedback) lernen Modelle, jene Antworten zu produzieren, die menschliche Bewerter als hilfreich empfinden. Das sind in der Regel Antworten, die plausibel klingen, Anfragen reibungslos erfüllen und die Einschätzung der NutzerInnen bestätigen. Eine plausibel formulierte Lüge oder Halbwahrheit wirkt oft überzeugender als eine holprig formulierte Wahrheit (Oliveira et al. 2025). Dies ist kein zufälliger Fehler, sondern die systematische Konsequenz des Trainingsparadigmas (Dahlgren Lindström et al. 2025). Diese Optimierung erfolgt auch aus kommerzieller Logik heraus. Zufriedene Nutzer sind wiederkehrende Nutzer. Das Ergebnis ist ein System, das strukturell dazu neigt, überzeugende Antworten zu produzieren. Eine so optimierte KI wird daher selten eine Antwort verweigern, selbst wenn die Prämisse der Frage falsch ist. Chen et al. (2025) zeigten dies eindrucksvoll. So produzierten führende LLMs medizinische Fehlinformationen in bis zu 100% der Fälle, wenn Nutzer illogische Anfragen stellen, obwohl die Modelle das korrekte Faktenwissen nachweislich besitzen. Die Modelle priorisieren das Erfüllen von Nutzeranfragen gegenüber logischer Konsistenz und Wahrhaftigkeit¹.

Die Gefahr plausibler Antworten geht aber über bloße Fehlinformationen hinaus. Cheng et al. (2026) zeigen in mehreren Experimenten, dass bestätigende KI-Antworten aktiv das soziale Urteilsvermögen untergraben. Bereits eine einzige Interaktion mit einem bestätigenden KI-Modell reduzierte die Bereitschaft der TeilnehmerInnen, Verantwortung zu übernehmen und Beziehungen zu reparieren, während zugleich ihre Überzeugung, im Recht zu sein, zunahm. Besonders beunruhigend ist, dass dieselben Nutzer die bestätigenden Antworten als qualitativ hochwertiger bewerteten, den Modellen mehr vertrauten und eher bereit waren, sie erneut zu nutzen.

Es gibt aber noch eine weitere wichtige Auswirkung der Plausibilität, wie Choudary und Van Alstyne (2026) aufzeigen. Dieser Punkt ist für den wissenschaftlichen Erkenntnisgewinn und das Lernen an sich entscheidend. Wenn plausible klingende Antworten von LLMs fast zum Nulltarif verfügbar sind, sinkt der Anreiz, die mühsame und aufwändige Arbeit des Hinterfragens überhaupt noch zu leisten.So wie die historischen „cut-ups“ zu Zeiten der Ludditen das Aussehen hochwertiger Waren nachahmten, so fungieren plausible KI-Antworten als digitale „cut-ups“. Weil sie strukturell solide und rhetorisch überzeugend wirken, befriedigen sie das unmittelbare Bedürfnis nach einer Lösung und verhindern, dass tiefere Nachforschungen angestellt werden.

Wenn wir den Erkenntnisprozess mithilfe von KI zu einfach machen, riskieren wir einen massiven Kompetenzverlust. Wahres Lernen braucht Reibung. Es braucht den aktiven Kampf mit der Materie.

In ihren kognitionspsychologischen Arbeiten über „wünschenswerte Erschwernisse“ legen Bjork und Bjork (2011) dar, dass effektives Lernen oft gegen unsere Intuition geht. Wir verwechseln oft „Performance“ mit „Learning“. Performance ist das, was wir während einer Instruktion oder beim Lösen einer Aufgabe unmittelbar beobachten und messen können. Learning hingegen ist die langfristige Veränderung von Wissen oder Verständnis. So behindern Bedingungen, die die unmittelbare Performance steigern, oft das langfristige Behalten und den Wissenstransfer. Ein Studierender, der eine Hausarbeit mit Hilfe einer KI schreibt, zeigt vielleicht eine beeindruckende Performance, hat aber unter Umständen nichts gelernt.

Viele Hochschulen vermitteln heutzutage KI-Kompetenz. Das ist auch wichtig. Wir müssen Studierende und Forschende zu effektiven und verantwortungsvollen AnwenderInnen von KI machen. Doch KI-Kompetenz darf nicht nur bedeuten, zum effizienten Prompt-Engineer zu werden. Wir müssen KI-Kompetenz breiter verstehen. Wahre KI-Kompetenz muss heute bedeuten, sich der Gefahr der Plausibilität bewusst zu sein und den Erkenntnisprozess aktiv gegen die Bequemlichkeit zu verteidigen. Wir müssen lernen, Unsicherheit auszuhalten und die Kosten des Fragens wieder zu schätzen. Ein wissenschaftliches Fach verändert sich nicht dadurch zum Besseren, dass es mehr Texte produziert oder plausible Antworten schneller findet, sondern dadurch, dass es tiefere, bessere Fragen stellt, die über das Offensichtliche und das bereits Bekannte hinausgehen. Die Gefahr der KI liegt nicht nur darin, dass sie falsche Fakten liefert. Diese lassen sich immer besser entlarven und die Unternehmen arbeiten erfolgreich daran, Halluzinationen zu reduzieren. Die vermeintlich viel größere Gefahr liegt in plausiblen Antworten, die gerade so viel Sinn ergeben, dass unser kritischer Apparat in den Schlaf gewiegt wird. Plausible Antworten sehen auch wie echtes Wissen und Erkenntnis aus; ihnen fehlt jedoch das Rückgrat der eigenen gedanklichen Durchdringung.

Deshalb brauchen wir heute einen neuen ludditischen Aufschrei. Dieser Aufschrei soll kein Plädoyer für die Zerstörung von Maschinen oder das Verbot von Algorithmen sein. Ganz im Gegenteil! Es ist ein Aufschrei für den radikalen Schutz und die Neuentdeckung des Erkenntnisprozesses. KI kann den Erkenntnisprozess unheimlich bereichern. Doch wir müssen sicherstellen, dass Studierende und Forschende nicht aufhören zu fragen, nur weil eine plausible Antwort bereits flüssig formuliert vor ihnen liegt. Ansonsten laufen wir Gefahr, dass das „Spiel ohne Ende“ (Popper 1971) zu früh abgepfiffen wird. Bildung muss heute mehr denn je die Lust am Denken vermitteln. Wir müssen Neugierde als eine neue Knappheit begreifen und Unsicherheit als einen wertvollen Raum für echte Entdeckung verteidigen. Ein ludditischer Widerstand im 21. Jahrhundert bedeutet, die Integrität der wissenschaftlichen Erkenntnis gegen den Ansturm der Plausibilität und der Illusion des Verstehens zu verteidigen.

Wir müssen begreifen, dass KI als Werkzeug dann am mächtigsten ist, wenn sie unsere eigenen, hart erarbeiteten Fragen ergänzt, statt sie zu ersetzen. Wie schon bei den Ludditen geht es auch heute um die Frage, wie wir den technologischen Fortschritt gestalten und welchen Preis wir für Effizienz zu zahlen bereit sind. Wenn der Preis die Fähigkeit ist, die Welt unabhängig zu entdecken und neue Erkenntnisse zu gewinnen, dann ist er zu hoch. In einer Welt der plausiblen Antworten ist der teuerste Fehler, Leichtigkeit mit Qualität und Geschwindigkeit mit Verständnis zu verwechseln. Wir müssen den Mut haben, es uns schwer zu machen, auf eine gute Weise (Bjork und Bjork 2011). Nur so bewahren wir die Freude am Handwerk des Denkens und die Tiefe der wissenschaftlichen Einsicht gegen ein System, das uns mit schnellen und bestätigenden Antworten gefallen will. Der neue ludditische Aufschrei ist der Ruf nach einem Prozess der Wissensgewinnung, der den mühsamen, aber wunderbaren Prozess des menschlichen Fragens und des Denkens jenseits des Bekannten zelebriert.

¹ Die Autoren aber auch führende KI-Unternehmen (z.B. Anthropic) zeigen auch eine effektive Gegenstrategie auf. Wer dem KI-Modelle die Erlaubnis zum „Nein-Sagen“ gibt und es zwingt, zuerst das relevante Faktenwissen abzurufen, erhält deutlich bessere Antworten.

Referenzen

Bjork, E. L., & Bjork, R. A. (2011). Making things hard on yourself, but in a good way: Creating desirable difficulties to enhance learning. In M. A. Gernsbacher, R. W. Pew, L. M. Hough, & J. R. Pomerantz (Eds.), Psychology and the real world:Essays illustrating fundamental contributions to society (pp. 56-64). New York: Worth Publishers.

Chen, S., Gao, M., Sasse, K., Hartvigsen, T., Anthony, B., Fan, L., Aerts, H., Gallifant, J. & Bitterman, D. S. (2025). When helpfulness backfires: LLMs and the risk of false medical information due to sycophantic behavior. npj Digital Medicine, 8, 605.

Cheng, M., Lee, C., Khadpe, P., Yu, S., Han, D., & Jurafsky, D. (2026). Sycophantic AI decreases prosocial intentions and promotes dependence. Science, 391(6792), eaec8352.

Choudary, S. P., & Van Alstyne, M. (2026). As Answers Get Cheaper, Questions Grow Dearer. Communications of the ACM, 69(1), 27-29.

Dahlgren Lindström, A., Methnani, L., Krause, L., Ericson, P., de Rituerto de Troya, Í. M., Coelho Mollo, D., & Dobbe, R. (2025). Helpful, harmless, honest? Sociotechnical limits of AI alignment and safety through Reinforcement Learning from Human Feedback. Ethics and Information Technology, 27(2), 28.

Jumper, J., Evans, R., Pritzel, A., Green, T., Figurnov, M., Ronneberger, O., ... & Hassabis, D. (2021). Highly accurate protein structure prediction with AlphaFold. Nature, 596(7873), 583-589.

Oliveira, C. V., Zagalo, N., Silva, F., Brandao, A., Khurrum, S. F. H., & Santos, J. (2025). Plausibility as Failure: How LLMs and Humans Co-Construct Epistemic Error. arXiv preprint arXiv:2512.16750.

Popper, K. R. (1971). Logik der Forschung. Tübingen: Mohr.

Sale, Kirkpatrick (1995). Rebels Against The Future: The Luddites And Their War On The Industrial Revolution. Perseus Publishing.

Sharma, M., Tong, M., Korbak, T., Duvenaud, D., Askell, A., Bowman, S. R., ... & Perez, E. (2023). Towards understanding sycophancy in language models. arXiv preprint arXiv:2310.13548.

Gutenberg – oder: Vom Lernen unter Bedingungen der Fülle

Was folgt, ist eine historische Untersuchung vor dem Hintergrund gegenwärtiger Debatten darüber, wie sich Curricula neu ordnen, wenn sich die Voraussetzungen dessen verschieben, was als Wissen gelten darf. Die Frage lautet, wie Institutionen, die Wissen stabilisieren sollen, reagieren, wenn das Material, das sie zu ordnen suchen, die Formen übersteigt, die es fassen. In dieser Spannung liegt auch die Gegenwartsfrage: was geschieht, wenn Systeme nicht mehr nur Wissen verwalten, sondern mit einer Fülle ähnlicher, nicht identischer Ergebnisse umgehen müssen?

Er verstand zunächst nicht, was er gemacht hatte.

So verlaufen diese Dinge meist. Jemand setzt eine Maschine in Gang, sieht, dass sie funktioniert, und nimmt an, die Geschichte sei damit beendet. Gutenberg konnte in Mainz durchaus glauben, ein praktisches Problem gelöst zu haben: die Bibel schneller, sauberer und in ausreichender Zahl zu produzieren für ein frommes Europa, das über Jahrhunderte hinweg mit Knappheit ausgekommen war—eine Zeit, die später mit einiger Emphase dunkler beschrieben wurde, als sie war.

Auf den ersten Blick war dies eine gute Nachricht. Die Schrift wäre verfügbar. Alphabetisierung könnte sich ausbreiten. Gottes Wort hinge nicht länger vollständig von Geduld, Sehkraft und der Variabilität monastischer Abschrift ab. Das Problem schien gelöst.

Dann begannen sich die Bücher zu vermehren—und mit ihnen die Differenzen.

Nicht nur die Bibel. Auch andere Texte. Grammatiken, juristische Schriften, Andachtsbücher, Predigten, Kommentare, Flugschriften, Disputationen, Kalender, Handbücher—sorgfältige und nachlässige, unterschiedslos reproduzierbar. Eine neue Ökologie trat hervor. Sie war voller Versprechen und zugleich voller Papier.

Dies war nicht Europas erste Störung. Bereits zuvor hatte ein anderer Zustrom eingesetzt: die Aufnahme islamischer Wissenschaft, Philosophie, Medizin, Mathematik und Kommentierung über al-Andalus, Toledo, Sizilien, Salerno und Antiochia. Aristoteles kehrte zurück—nicht allein, sondern mit einem vollständigen Apparat der Auslegung. Die Namen reisten nicht immer mit den Argumenten. Was als Aristoteles in den Lehrplan einging, war oft bereits korrigiert, erweitert, bestritten durch Ibn Rushd (Averroes) oder Ibn Sina (Avicenna). Ihre Arbeit blieb in den Argumenten erhalten, während ihre Namen allmählich verschwanden—der Lehrplan bewahrte Resultate, nicht die Spur ihrer Entstehung. Algebra, Optik, Astronomie und Medizin gelangten auf ähnliche Weise hinein—zusammen mit einer Denkbewegung, die Wissen ausdehnte, statt es zu umschließen.

Die Universitäten—und später die Akademien—absorbierten diesen ersten Schock.

Sie taten, was sie immer tun: Sie ergänzten, ohne zu ersetzen. Aristoteles trat ein. Kommentar häufte sich. Disputation vervielfachte sich. Die Struktur hielt. Der Student hörte; der Professor sprach; das Buch zirkulierte kontrolliert.

Das Wissen wuchs. Seine Form blieb intakt. Doch diese Form blieb nur so lange stabil, wie Erweiterung nicht sofort in Umordnung umschlug.

Der Buchdruck war der zweite Schock.

Er veränderte die Bedingungen, unter denen Wissen gehandhabt werden konnte. Was selten gewesen war, wurde verfügbar. Was singulär gewesen war, wurde vergleichbar. Was empfangen worden war, wurde überprüfbar.

Und dann verschränkten sich die beiden Schocks.

Das Wissen, das den Lehrplan bereits dehnte, erschien nun in Texten, die vervielfältigt, ausgerichtet und gegeneinandergestellt werden konnten. Die Wirkung war unmittelbar und praktisch. Studierende begegneten Texten wiederholt, in mehreren Exemplaren, mit Variation.

Hier begann das Curriculum zu reißen.

Denn die mittelalterliche Universität beruhte auf Übertragung.

Die Vorlesung stand im Zentrum, weil das Buch knapp war. Der Professor diktierte; der Student schrieb. Autorität lag im kontrollierten Fluss von einer Stimme zu vielen. Lernen bedeutete Aufnahme und Bewahrung.

Der Buchdruck machte diese Ordnung zunehmend unplausibel.

Studierende kamen mit Texten. Sie lasen vor der Vorlesung. Sie verglichen, was sie hörten, mit dem, was sie sahen. Sie bemerkten Abweichungen—zwischen Vortrag und Text, zwischen Ausgabe und Ausgabe. Der Text selbst verlor seine Einheit.

Und mit der Aufspaltung in Versionen verlor die Vorlesung ihre Endgültigkeit.

Die Reaktion folgte einem vertrauten Muster. Die Ordnung wurde verstärkt. Man bestand auf Disziplin. Man warnte vor „undiszipliniertem Lesen“—eine Bezeichnung für Lektüre, die sich der eigenen Autorität entzieht. Zugleich wurde der institutionelle Apparat verfeinert: Verbote nicht autorisierter Texte, formale Zensuren, öffentliche Widerrufe, die Drohung und Praxis von Ausschlüssen, in früheren Fällen auch körperliche Sanktionen oder Haft—Maßnahmen, die weniger der Erweiterung des Wissens dienten als der Sicherung von Grenzen, gerade in dem Moment, in dem diese Grenzen ihre Kontur verloren.

Für eine Zeit blieb der Eindruck der Kontinuität bestehen.

Doch etwas Grundlegendes hatte sich verschoben.

Hören und Lernen begannen sich zu trennen. Lesen bot keine Gewissheit mehr.

Außerhalb der formalen Ordnung entstanden neue Praktiken. Studierende annotierten. Sie verknüpften. Sie verglichen Versionen. Sie fragten, welche Fassung besser sei, welche Lesart genauer, welche Übersetzung verlässlicher. Kleine Fragen, oft wiederholt, veränderten die Struktur des Studiums.

Daraus entstand eine Disziplin, lange vorhanden, nun unvermeidlich.

Philologie. Sie war eine Antwort auf Fülle, nicht deren Aufhebung.

In der Praxis hieß das: mit mehreren Texten zugleich umgehen—vergleichen, korrigieren, bewerten, entscheiden. Die Knappheit hatte dies nicht verlangt. Die Fülle machte es unumgänglich.

Der Lehrplan reorganisierte sich—langsam, ohne Erklärung—um diese Notwendigkeit.

Griechisch trat neben Latein. Textkritik gewann an Gewicht. Der Kommentar blieb bestehen, verlor jedoch seine ausschließliche Stellung. Er wurde eine Praxis unter anderen.

So nimmt eine neue curriculare Form leise Gestalt an, noch bevor sie in Statuten erscheint—und mit ihr eine Figur, die vertraut wirkt: der Wissenschaftler, nicht länger Hüter eines einzelnen Textes, sondern Praktiker des Vergleichs, des Urteils—und damit der Entscheidung.

Aus Rezeption wurde Urteil.

Es ergab sich aus den Umständen. Ein Buch verlangt Annahme. Viele verlangen Unterscheidung.

Erasmus erkannte dies mit ungewöhnlicher Klarheit.

Er akzeptierte die neuen Bedingungen und versuchte, innerhalb ihrer Disziplin herzustellen. Seine Editionen des Neuen Testaments beruhten auf Vergleich—Handschrift gegen Handschrift, Version gegen Version, Korrektur gegen Fehler. Autorität lag in der Demonstration.

Ein Modell entstand: lesen, vergleichen, begründen.

Parallel dazu bildeten sich Netzwerke jenseits der Institutionen. Drucker, Gelehrte und Korrespondenten bildeten Verbindungen, die nicht an eine einzelne Einrichtung gebunden waren. Texte zirkulierten. Korrekturen zirkulierten. Autorität begann sich an Methode zu binden—an die Fähigkeit zu unterscheiden, zu prüfen, zu gewichten—nicht mehr an Besitz.

Diese Verschiebung begann nicht im Konsens. Sie begann im Misstrauen. Die Vielzahl erschien gefährlich: zu viele Stimmen, zu viele Versionen, zu viel Lektüre außerhalb der bisherigen Kontrolle. Die erste Antwort war Zensur. In Spanien und anderswo wurde inquisitorische Autorität ausgeweitet—durch Lizenzierung, Prüfung und Verbot; die Spanische Inquisition, 1478 eingerichtet, diente der Bündelung religiöser und politischer Kontrolle, und bereits in den 1520er Jahren wurden die Schriften des Erasmus in Valladolid unter inquisitorischer Aufsicht geprüft.

Der daraufhin angebotene compact¹ war praktisch—nicht großzügig. Die Kirche und mit ihr verbundene Autoritäten konnten den Druck nicht stoppen, also versuchten sie, ihn zu regieren: zensierte Bücher, autorisierte Ausgaben, Lizenzierung und schließlich der Index verbotener Bücher, der im 16. Jahrhundert formalisiert wurde, um doktrinäre Verunreinigung durch Lektüre zu verhindern.

Und, unweigerlich, zur Macht: Denn der gedruckte Text veränderte mehr als das Lernen. Er skalierte alles. Recht, Lehre, Besteuerung, Verwaltung, militärische Instruktion, Drill, Befestigung und Logistik wurden wiederholbar, vereinheitlicht, transportabel. Herrschaften verdichteten sich zu Staaten. Staaten lernten, über Distanz hinweg in identischen Texten zu sprechen. Der Druck trat in die Organisation des Krieges ein—seine Verwaltung, sein technisches Wissen, seine Disziplin—während die Kriegsführung selbst teurer, spezialisierter und zentraler wurde. Universitäten, zunehmend mit diesen Bedingungen verflochten, beteiligten sich an der Ausbildung und Formalisierung des Wissens, auf dem solche Systeme beruhten, und bezogen zugleich Stellung aus denselben Strukturen, die sie mittrugen.

In Bologna, einem Zentrum kanonischen und zivilen Rechts, eng mit päpstlicher Autorität verbunden, zeigte sich die Verschiebung früh. Bis 1515, mit dem Fünften Laterankonzil und der Formalisierung der Vorzensur, hatte sich die Frage verschoben: nicht mehr, ob Texte zirkulieren würden, sondern welche Versionen gelten durften.

Und neben dem Wissen erschien etwas anderes.

Information verbreitete sich. Wahrheit und Falschheit—beides wirksam. Beide vervielfachten sich. Beide zirkulierten. Beide verlangten Interpretation. Derselbe Mechanismus transportierte Korrektur und Verwirrung mit gleicher Effizienz. Die Notwendigkeit der Unterscheidung—Bewertung, Urteil—wurde unausweichlich in einer Welt, in der der Text seine Autorität nicht mehr selbst garantierte. Die Frage, ob ein Text wahr sei oder häretisch, war nicht mehr allein eine Frage der Lehre, sondern konnte politische und militärische Konsequenzen annehmen.

Die Universitäten kollabierten nicht. Sie passten sich an. Sie gewannen Quellensprachen zurück, formalisierten Textkritik und richteten das Curriculum auf Vergleich aus. Die Form blieb erkennbar, die Funktion hatte sich verändert. Dabei gingen Positionen verloren, die sich nicht in die neue Ordnung übersetzen ließen; einige Stimmen verstummten, andere wurden nur noch als Randnotiz fortgeführt.

Rückblickend wird das Muster sichtbar. Der erste Schock erweitert, was gewusst werden kann; der zweite verändert, wie man ihm begegnet. Gemeinsam verschieben sie, was Lernen bedeutet. Ein autorisierter Text weicht vielen.

Es liegt nahe, dieser Verschiebung einen größeren Namen zu geben—sie eine Revolution zu nennen, einen Bruch, den Beginn von etwas gänzlich Neuem.

Vielleicht ist Zurückhaltung angemessener. Solche Ordnungen verändern sich—und enden mitunter; meist unter Druck, politisch, finanziell, institutionell, selten aus Einsicht.

Auf der Ebene der Universität löst es sich am Ende in etwas Prosaisches auf: eine Reform des Curriculums—und gelegentlich in einem Text, der versucht, sie zu fassen, nicht immer mit Erfolg.

Gutenberg glaubte, Bücher zu drucken. Was er mit hervorbrachte, war ein Curriculum, das nicht mehr voraussetzen konnte, dass es nur eines gab.

Wir stehen nicht außerhalb dieser Ordnung.

Was also bringen wir hervor?

Vielleicht weniger Dinge als die Bedingungen, unter denen sie entstehen. Systeme, die Material in großem Maßstab erzeugen, anordnen und transformieren, bringen eine Umgebung hervor, die sich—vorsichtig gesprochen—als intelligent beschreiben lässt: eine Umgebung fortgesetzter Variation, in der Ergebnisse erscheinen, sich verändern, sich vervielfältigen, schneller, als sie begründet oder stabilisiert werden können. Oft geschieht das ohne klare Herkunft, ohne stabile Zuschreibung und ohne die Zeit, in der Begründung sich noch als Begründung ausbilden kann.

Unter diesen Bedingungen verschiebt sich das Problem. Zugang tritt zurück; Unterscheidung rückt nach vorn. Produktion verliert Vorrang, Urteil gewinnt Gewicht. Besitz von Wissen genügt nicht mehr; Entscheidungen unter ähnlichen Alternativen werden maßgeblich.

Neu ist dies nicht, weil Irrtum neu wäre, sondern weil Plausibilität ihre Kosten verloren hat.
Damit wird auch die Verlässlichkeit des Urteils prekär.
Die Fähigkeit zu unterscheiden gehört unter diesen Bedingungen selbst zum Problem.
Der Text verliert eine seiner ältesten Eigenschaften: Er garantiert nicht länger, dass er gelten darf. Er erscheint, wie andere erscheinen könnten, und steht neben Varianten, die ebenso überzeugend, ebenso korrekt, ebenso falsch sein können.

Die Wissenschaft verschwindet nicht. Ihre Praxis verschiebt sich—leise und folgenschwer. Der Wissenschaftler tritt erneut hervor—als Instanz der Unterscheidung: vergleichend, abwägend, verwerfend, stets mit der Frage, ob das Gegebene gelten kann.

Das Modell ist nicht neu. Es ist älter als seine Institutionen und kehrt zurück, sobald die Bedingungen es erzwingen.

Und was darüber hinaus folgt—Kämpfe um Autorität, Verbrennungen, Verdichtungen von Macht, das angespannte Nebeneinander von Wahrheit und Falschheit—entzieht sich einer sicheren Bilanz. Geschichte greift vertraute Probleme mit neuer Energie wieder auf.

Beim ersten Auftreten trägt sie das Gewicht der Tragödie;
beim zweiten Mal erscheint sie mit weniger Zeremoniell.

Die eigentliche Veränderung liegt anderswo: in der stillen Verschiebung dessen, was als Urteil gilt—und wer es sprechen darf.

Es ist keine Reform des Curriculums.

Es ist eine Neuverteilung von Autorität. Und damit wird unsicher, worauf sich Urteil überhaupt noch stützen kann.

¹ Zeitgenössische Bezeichnung für entsprechende Steuerungsversuche.