AI „denkt“ nicht

Es ist WWDC, und wie jedes Jahr dominiert Apples Entwicklerkonferenz den Tech-Newszyklus. Dieses Jahr vielleicht sogar ein wenig mehr, nach all den Negativschlagzeilen rund um Siri und App Store-Fees. Bislang hat mich keine der vorgestellten Neuerungen wirklich vom Stuhl gehauen, drum konzentriere ich mich heute auf eine News, die am Sonntag kurz vor der großen Keynote in der AI-Szene für Aussehen sorgte. Das Machine Learning Research Team von Apple veröffentlichte ein Paper mit dem Titel „The Illusion of Thinking“, was kaum anders zu interpretieren ist, als ein Angriff auf die „denkenden“ Reasoning-Modelle von OpenAI, Anthropic & Co. Auch der Zeitpunkt kurz vor einem Event, bei dem man im letzten Jahr mit halb garen AI-Features große Versprechungen machte, nur um dieses Mal kaum darüber zu sprechen, ist sagen wir mal … interessant.

Gleichwohl haben die Forscher nicht ganz unrecht. Josh Wolfe, Co-Founder und Partner bei Lux Capital, fasst es in einem Thread gut zusammen:

• LLMs überdenken einfache Aufgaben und suchen oft nach weiteren, meist falschen Lösungen, obwohl sie die richtige Antwort bereits gefunden haben.
• Manchmal geben sie einfach auf, auch wenn sie noch genügend Rechenleistung zur Verfügung haben.
• Sie beharren auf falschen Antworten, wenngleich ihnen der exakte Lösungsweg aufgezeigt wird.

Ergo, sie denken nicht wirklich. Sie verstehen nicht wirklich. Sie suchen nur nach Mustern. Sie sind keine Menschen (duh). „Reasoning“ ist Marketingsprech und beschreibt nicht, was tatsächlich passiert. Auch wenn es sich manchmal so anfühlt. Wie man sich vorstellen kann, war das natürlich ein gefundenes Fressen für alle AI-Skeptiker, die ohnehin glauben, dass alles Betrug ist und bald die nächste Dotcom-Blase platzen wird. Das denke ich nicht. Das Paper zeigt jedoch auch, dass LLMs in ihrem aktuellen Stadium nicht die Weltherrschaft an sich reißen werden. Am Ende ist alles nur Software, die von guten und schlechten Menschen genutzt wird. Steven Sinofsky beschreibt es sehr treffend:

„AI is wonderful. It is absolutely a huge deal. But it is, today and for any foreseeable future, a tool. It is a tool under the control of humans. It is a tool used by humans. It is a tool, and not a human. The fact that it appears to imitate some aspects of humans does not give it those human traits. For those reasons and more, we should not be concerned or afraid of AI beyond the concerns over how tools can be used, misused, or abused. That could be said of VisiCalc on an Apple II, Word on Windows, Netscape and the internet, or more.“