Entwickler und Forscher hatten lange gehofft, dass große Sprachmodelle (Large Language Models, LLMs) eines Tages über sich hinauswachsen und Fähigkeiten entwickeln könnten, die sie nicht explizit erlernt haben. Doch wie eine aktuelle Studie der Technischen Universität Darmstadt und der University of Bath zeigt, ist das Wunschdenken – die Realität sieht anders aus.

Skalierung ohne Magie: Was die Forschung herausfand

Die Studie konzentrierte sich auf die Frage, ob eine Vergrößerung und das Training von Sprachmodellen tatsächlich dazu führen, dass sie unerwartete, fast magische Fähigkeiten entwickeln. Die Ergebnisse sind ernüchternd: Egal, wie sehr man die Modelle aufbläst, sie bleiben auf das angewiesen, was sie gelernt haben – und das ist in der Regel kontextuelles Lernen. Einfach gesagt: Die Modelle sind exzellente Papageien, die wiederholen, was sie gehört haben, aber von echtem Verständnis oder eigenständigem Denken sind sie weit entfernt.

Das Forschungsteam untersuchte 20 verschiedene Modelle, darunter bekannte Vertreter wie GPT, T5 und LLama, in insgesamt 22 verschiedenen Aufgaben. Das Ergebnis? Alle zuvor beobachteten „emergenten“ Fähigkeiten, also plötzliche und unerwartete Leistungssprünge, lassen sich auf kontextuelles Lernen zurückführen. Ein Modell, das auf Anweisungen reagiert, mag vielleicht beeindrucken, aber es denkt nicht wirklich darüber nach, was es tut. Es folgt einfach den Anweisungen, und das oft auf eine Weise, die zwar sprachlich flüssig, aber inhaltlich unsinnig ist – das sogenannte „Halluzinieren“.

Intelligenz? Fehlanzeige!

Ein Sprachmodell, das Anweisungen befolgt, ist also nicht intelligent. Es ist ein gut trainierter Automat, der das tut, wofür er programmiert wurde. Das Forschungsteam um TU-Informatikprofessorin Iryna Gurevych stellt klar: „Die Fähigkeit, Anweisungen zu befolgen, impliziert nicht, dass man über Logik-Fähigkeiten verfügt.“ Diese Erkenntnis ist wichtig, da sie verdeutlicht, dass viele der sogenannten Bedrohungen durch Künstliche Intelligenz, wie sie in den Medien oft dargestellt werden, nicht haltbar sind.

Die Forscher betonen jedoch, dass ihre Studie nicht bedeutet, dass Künstliche Intelligenz generell ungefährlich ist. Es geht vielmehr darum, dass die Entwicklung komplexer Denkfähigkeiten, wie sie häufig befürchtet wird, in der Realität durch keine Beweise gestützt wird. Stattdessen bleibt die KI ein Werkzeug, das wir – zumindest aktuell – gut steuern können.

Ein bisschen Entmystifizierung tut gut

Die Ergebnisse der Studie tragen dazu bei, die oft überhöhten Erwartungen an Sprachmodelle zu relativieren und bieten einen realistischen Blick auf ihre Fähigkeiten und Grenzen. Das entmystifiziert die großen Sprachmodelle und hilft dabei, Sicherheitsbedenken in einem realistischen Rahmen zu betrachten. Am Ende geht es nicht darum, die Modelle größer und mächtiger zu machen, sondern sie effizienter und sicherer zu nutzen. Wer weiß, vielleicht kommt die wahre Intelligenz eines Tages doch noch – aber bis dahin bleiben die Sprachmodelle, was sie sind: nützliche, aber begrenzte Werkzeuge.