In ihren barrierefreien Sachbüchern erklärt die Informatikprofessorin Katharina Zweig, wie Sprachmodelle funktionieren – und stellt nicht nur im Titel des jüngsten Werkes die Frage: WEISS DIE KI, DASS SIE NICHTS WEISS?

„Haben Sprachmodelle wirklich die Fähigkeit, über etwas nachzudenken und daraus Schlüsse abzuleiten – in der vollen Bandbreite des Wortes ‚Reasoning‘? Dieses Versprechen, dass Sprachmodelle jetzt ‚nachdenken’ können, hat mich herausgefordert, mir Sprachmodelle noch einmal ganz genau anzusehen, um zu ermessen, ob die Technologie dahinter das wirklich kann – oder ob man die Ergebnisse anders interpretieren sollte.“

Das ist moderne Zauberei, oder? Wir amüsieren uns, wie lustig wir als „gezeichnete“ Action-Figuren aussehen, und finden es praktisch, uns bei Übersetzungen helfen zu lassen; wir sparen uns lästige Recherchen, weil wir nur noch eine Quelle zu brauchen scheinen, und lassen uns Texte schreiben, deren Wortgewandtheit uns ebenso verblüffen wie die Vergleiche von Dokumenten und Zusammenfassungen komplexer Sachverhalte. Manchmal bemerken wir einen Fehler, das ist nervig, aber jeder irrt sich hin und wieder, oder? Vor allem genießen wir das Gefühl – vielleicht gar die Macht –, dass eine großartige Intelligenz nur darauf wartet, uns Wünsche zu erfüllen: Es sind mehr als drei … und wir müssen vorher nicht einmal eine kleine, goldene Lampe reiben.

Die Rede ist von KI – dem Sammelbegriff für Sprachmodelle wie ChatGPT, Claude und Co. Einige von uns sind skeptisch, andere feiern den technischen Fortschritt, und wenn wir lesen, dass in Amerika ein Teenager von der KI in seinen Selbstmordgedanken bestärkt und unterstützt wurde (bis hin zu der „hilfsbereiten“ Frage, ob ein Abschiedsbrief formuliert werden soll), schaudert es uns kurz … aber dann tippen wir schon die nächste Suchanfrage, lassen mit dem „magischen Radierer“ Fotos optimieren, nutzen ein Navigationssystem und finden es vielleicht sogar angenehm, am Ende einer Hotline keinen misslaunigen Menschen zu hören, sondern eine wohlmodulierte Stimme, die nach unserem Anliegen fragt.

Nächste Ausfahrt Armageddon?

Obwohl die Vermutung, dass der „Terminator“ schon hinter der nächsten Prompt-Eingabe lauert, eher mit einem Lächeln geäußert wird, wissen wir bereits, dass KI unser aller Leben verändert – und können davon ausgehen, dass es diverse Jobs bald nicht mehr geben wird. Selbst, wenn man die wichtige Frage außen vorlässt, wie und woher die Sprachmodellentwickler ihre Trainingsdaten haben – Tech-Firmen schützen bekanntlich ihre eigenen Entwicklungen, halten die Urheberrechte anderer aber für überbewertet –, drängt sich die Frage auf: Wohin soll das alles noch führen? In eine schöne neue Welt … oder den Untergang? Der Autor und Journalist Cory Doctorow veröffentlichte dazu im Januar 2026 diese Überlegung im Guardian:

„KI ist der Asbest in den Wänden unserer technologischen Gesellschaft, hemmungslos hineingestopft von amoklaufenden Finanzmärkten und Tech-Monopolisten. Wir werden eine Generation oder länger damit beschäftigt sein, ihn wieder herauszureißen.“

Um etwas beurteilen zu können, müssen wir es verstehen. Und dabei kann uns Prof. Dr. Katharina Zweig helfen: Die für ihre Arbeit, unter anderem rund um das Thema KI, mit dem Bundesverdienstkreuz ausgezeichnete Informatikerin hat drei Bestseller geschrieben, in denen sie erklärt, wie künstliche Intelligenz funktioniert, was ihre Stärken und Schwächen sind und was beides für uns bedeutet. Auf EIN ALGORITHMUS HAT KEIN TAKTGEFÜHL (2019) und DIE KI WAR’S (2023) folgte 2025 WEISS DIE KI, DASS SIE NICHTS WEISS?

Katharina Zweig erklärt sachlich und leicht verständlich, wie Sprachmodelle funktionieren – und dass es sich dabei nicht um Marjorie, die allwissende Müllhalde handelt, sondern um Wahrscheinlichkeitsvorhersagen, die auf Grundlage riesiger Datenmengen ein verblüffend hohes Niveau erreichen. Die „künstliche“ Intelligenz funktioniert also im Grundsatz gar nicht so anders als die menschliche:

„Was würden Sie denken, wenn ich mitten im Satz aufhöre zu …? Bei den meisten von Ihnen wir das Gehirn den Satz ergänzt haben [zum Beispiel durch ‚sprechen‘ oder ‚reden‘]. Tatsächlich passieren solche Ergänzungen unbewusst immer, wenn wir Texte lesen oder Sprache hören: Wir sagen ständig das nächste Wort voraus und gleichen dann ab mit dem, was wir gehört haben.“

Es ist verführerisch, auf Grundlagenbasis zu denken: Okay, ich hab’s verstanden. Aber die Bücher von Katharina Zweig helfen uns auf jeden Fall, in die richtige Richtung zu gehen.

Auf 246 Seiten – den Anhang mit Register und Fußnoten nicht mitgezählt – erfahren wir, was plappernde Papageien sind, warum KI ohne das Wort „Blah“ (wie in „blah-blah-blah“) nicht möglich wäre, warum die Begriffe „Gewicht“ und „Temperatur“ wichtig sind für die Antworten der KI, die wir bestaunen, und was das alles mit einer Kirchenkuppel zu tun haben könnte, an die wir mit Taschenlampen Wörter werfen. Nicht zu vergessen Oskar, der Oktopus … und die Mutter von Tom Cruise.

Als Leser von geringem Verstand bin ich weit davon entfernt, komplexe technische Zusammenhänge zu verstehen, fühle mich von Katharina Zweig aber gut an die Hand genommen, wenn sie erklärt, wie grundlegende Sprachmodelle entstehen und dann für die Anwendung feinjustiert werden, um uns Konsumenten gute Ergebnisse zu liefern … und diesen anheimelnden Schmelz, der dazu verführt zu vergessen, mit wem wir es zu tun haben. Genauer gesagt: mit was.

Etwas zu kurz kommt für mich im Buch tatsächlich eine Erklärung, warum wir Menschen geneigt sind, den Text auf einem Bildschirm oder die künstliche generierte Stimme aus einem Lautsprecher für vertrauenswürdig und menschlich zu halten – so sehr, dass wir der Maschine auch unsere intimen Gedanken anvertrauen, sie wie Freund*innen behandeln oder als wertigen Ersatz für eine Therapie ansehen.

Warum hat die Autorin sich dem Thema KI nun schon zum dritten Mal gewidmet?

Der Auslöser für Katharina Zweigs drittes Buch war (vermutlich neben dem Erfolg seiner Vorgänger) ein anderer: ein Fachartikel, der nahe legte, dass Sprachmodelle durch Zwischenschritte im Prompt zum „reasoning“ fähig sind, was mit „logischem Schlussfolgern“ nur zum Teil übersetzt werden kann. Dieser Frage geht die Autorin in WEISS DIE KI, DASS SIE NICHTS WEISS nach. Sie blickt in den „Maschinenraum“ der Sprachmodelle, zitiert Studien, lockert das alles mit kleinen Cartoons auf und macht amüsante Schlenker zum Scheitern, das Heidesandrezept ihrer Mutter nachzubacken.

Katharina Zweig kommt dabei zu vielen interessanten Schlussfolgerungen, von denen ich hier nur eine stellvertretend (und natürlich aus dem Zusammenhang gerissen) zitieren möchte:

„KI-Systeme werden im Labor austrainiert und auf Funktionalität bestmöglich getestet und dann mit diesem Stand der Dinge in die Welt entlassen. Das dadurch fixierte Regelsystem wird der Komplexität der Welt nicht gerecht werden, sondern in Stufen immer wieder neu entwickelt und geprüft werden müssen, bis es wieder eingesetzt wird.“

Da ich an einem Wochenende sowohl das aktuelle Buch als auch seinen Vorgänger DIE KI WAR’S durchgearbeitet habe, bin ich nun beim Aufschreiben dieser Gedanken unsicher, was ich aus dem einen und was aus dem anderen Werk gelernt habe. Diese Zusammenfassung eines Kapitels stammt aber definitiv aus WEISS DIE KI, DASS SIE NICHTS WEISS:

„Die Maschine weiß nicht, was sie tut. Sie ist nicht ‚die KI‘ mit einer allumfassenden Intelligenz, sie hat keine kommunikative Absicht, wenn sie Texte generiert, und kein Bewusstsein. Sie hat noch nicht einmal allumfassendes Wissen, auch wenn viele der generierten Sätze korrekt sind. Es handelt sich um ein KI-System, das für einige Aufgaben sehr gut geeignet ist und für andere nicht.“

Katharina Zweig hat eine fundierte Bestandsaufnahme geschrieben, keine Gebrauchsanweisung

Ein Sachbuch kann immer nur so gut sein, wie es zum Zeitpunkt der Manuskriptausgabe maximal möglich ist – und da WEISS DIE KI, DASS SIE NICHTS WEISS im September 2025 erschien und die technischen Entwicklungen immer schneller voranschreitet (oder zumindest: voranzuschreiten scheint), muss man beides natürlich einkalkulieren, wenn man das Buch liest. Mein Eindruck ist: So wie seine beiden Vorgänger ist auch der aktuelle Bestseller eine gute Quelle, um Grundlagen zu verstehen, sich einen Überblick zu verschaffen und eine Meinung zu bilden, in der weder Panik noch Blauäugigkeit eine Rolle spielen.

Der Untertitel von WEISS DIE KI, DASS SIE NICHTS WEISS lautet: „Wofür wir Chatbots nutzen sollten, wo sie sich irren und wo wir aufpassen müssen.“ Hierzu gibt es im Buch Beispiele; sein Praxisnutzen liegt meiner Meinung nach aber eher in der Wissensvermittlung als darin, konkrete Antworten auf aktuelle Fragen zu geben.

Was bringt die Zukunft? Katharina Zweig geht davon aus, dass viele Chatbots ihre Werbeversprechen nicht einlösen können, aber trotzdem massiv in die Systeme eingebaut werden, ohne die unser modernes Leben kaum noch vorstellbar ist – und sieht den Grund dafür auch darin, dass die großen Firmen, die Milliarden für die Entwicklung ausgegeben haben, natürlich darauf drängen, Gewinn zu machen. Damit kommen wir nun wieder zum eingangs erwähnten Noah Chomsky über das Asbest 2.0, von dem wir heute noch nicht wissen, wie schädlich es ist (gar vollumfänglich?) – und wie schwer es wird, uns davon zu befreien, ohne alles niederreißen und neu aufbauen zu müssen.

Es lohnt auf jeden Fall, sich die drei Bücher von Katharina Zweig genauer anzusehen – und für sich zu entscheiden, welches man für den besten Einstieg in die Thematik hält. Denn das ist letztendlich auch die zentrale Aussage der Autorin: Wir können Sprachmodelle nutzen, sollten aber nicht vergessen, dass ihre Antworten nicht der Realität entsprechen müssen. Und so lieferte Gemini mir auf die Frage, welches der drei Bücher von Katharina Zweig das Beste ist, um KI zu verstehen, an erster Stelle … einen frei erfundenen Titel.

***

Ich habe dieses Buch nicht gekauft, sondern als ARBEITSEXEMPLAR vom Verlag erhalten, da ich die Autorin im Auftrag des Börsenvereins des Deutschen Buchhandels nach ihrer Keynote bei der „Interessengemeinschaft Belletristik und Sachbuch“ im Januar 2026 auf der Bühne interviewt habe. Bei meiner Rezension handelt es sich trotzdem nicht um eine beauftragte oder bezahlte Werbung: Sie gibt lediglich meine subjektive und unbeeinflusste Meinung wieder.

Katharina Zweig: WEISS DIE KI, DASS SIE NICHTS WEISS? Heyne, 2025