KI-Experte:

Was ChatGPT produziert, ist autoritativer Bullshit

Web
10.03.2023 12:02

„Was ChatGPT produziert, ist autoritativer Bullshit“ - diese Aussage im amerikanischen Fernsehen hatte Gary Marcus einer breiteren Öffentlichkeit bekannt gemacht. Im Rahmen einer Vorlesungsreihe an der TU Wien erklärte der Psychologe, Neurowissenschaftler, Autor und Entrepreneur am Donnerstagabend den Hintergrund seiner Worte und erläuterte Schwachstellen des gehypten Chatbots.

„Am Beginn der KI stand Hybris“, stellte Marcus fest. Schon im Jahr 1967 hatte der MIT-Wissenschafter Marvin Minsky erklärt, dass „das Problem der KI innerhalb einer Generation gelöst sein wird“. Dieses Versprechen sei, trotz des momentanen Hypes um ChatGPT, nicht eingelöst worden, so der emeritierte Professor für Psychologie und Neurowissenschaften an der New York University. Marcus ist Buchautor und schreibt regelmäßig Beiträge für Publikationen wie „The New Yorker“, „Wired“ und die „New York Times“. Außerdem hat er schon mehrere KI-Firmen gegründet.

Die von der Entwicklerfirma OpenAI entwickelte Software ChatGPT knackte zwar zwei Monate nach der öffentlichen Vorstellung im November 2022 die Marke von 100 Millionen Nutzern - eine Zahl, für die Video-Plattform TikTok neun Monate und der Fotodienst Instagram zweieinhalb Jahre gebraucht haben. Doch der Enthusiasmus hielt laut Marcus nicht lange an: Immer mehr Social-Media-Posts machen auf Schwächen des Programmes aufmerksam. Demnach ist die Anwendung anfällig für die Verbreitung von Desinformation und auch die eingebauten Filter, die den Output von „Hate Speech“ verhindern sollen, sind leicht zu überwinden.

Die Suchmaschinenintegration bei Bing habe außerdem zu falschen Suchergebnissen geführt. Microsoft setzt bei seinem Bing-Chatbot auf Technik des Start-ups OpenAI und unterstützt das kalifornische KI-Unternehmen mit Milliarden.

Bezug zwischen Aussage und Inhalt fehlt
Die vielen Fehler haben ihren Ursprung in dem der Anwendung zugrunde liegenden Prinzip: Sprachbasierte KI-Modelle lesen riesige Mengen an Text aus dem Internet aus, um plausible, menschlich klingende Sätze vorherzusagen. Aber „einen Satz vorherzusagen ist nicht dasselbe, wie einen Satz zu verstehen“, so Marcus. Was fehlt, ist der Bezug zwischen Aussage und Inhalt. So verfüge das Programm über keinerlei Abstraktionsfähigkeit, deswegen können Aufgaben wie Sortieren und Zählen nicht verlässlich ausgeführt werden. Auch Schlussfolgern kann das Programm nicht. Außerdem hat es keinen Bezug zur Faktizität einer Aussage - die Vorhersage eines Satzes führe, wenn sie auf unzuverlässigen Quellen basiert, eben zu unzuverlässigen Aussagen. Das Ergebnis sind sogenannte „Halluzinationen“, also erfunden anmutende Aussagen des Programmes.

Doch Marcus sieht die Fehlschläge positiv - der Start von ChatGPT sei „eine Generalprobe für KI“ gewesen. Jetzige Fehler sollten die Grundlage für zukünftige Forschung bieten. Dabei ist für den Experten die Einbindung von Linguisten und Neurowissenschaftlern zentral. Gerade, dass prominente Figuren wie der Linguist Noam Chomsky sich jetzt in die Debatte einmischen, sei durchaus positiv, findet Marcus.

Profitinteresse im Vordergrund
Zudem dürfe KI nicht für Werbezwecke entwickelt werden, so Marcus weiter. Das ist auch ein Ressourcenproblem: Unternehmen, die derzeit Milliarden in die Entwicklung von KI investieren, haben ein klares Profitinteresse. Demgegenüber sind Universitäten, die KI im öffentlichen Interesse entwickeln würden, budgetär einfach nicht konkurrenzfähig.

Die Rolle Europas aus Sicht des US-Amerikaners sei in der aktuellen Entwicklung „politische Vorgaben zu setzen, denen andere folgen müssen“. Eine starke europäische Richtlinie gegen Fehlinformation würde auch darüber hinaus Auswirkungen haben. Denn wenn Tech-Firmen gezwungen wären, für den europäischen Markt striktere Versionen zu entwickeln, würden sie diese mit hoher Wahrscheinlichkeit auch weltweit implementieren. Die EU verweist ihrerseits aktuell auf die Risiken von KI und drängt auf eine rasche Regulierung.

 krone.at
krone.at
Loading...
00:00 / 00:00
play_arrow
close
expand_more
Loading...
replay_10
skip_previous
play_arrow
skip_next
forward_10
00:00
00:00
1.0x Geschwindigkeit
explore
Neue "Stories" entdecken
Beta
Loading
Kommentare
Eingeloggt als 
Nicht der richtige User? Logout

Willkommen in unserer Community! Eingehende Beiträge werden geprüft und anschließend veröffentlicht. Bitte achten Sie auf Einhaltung unserer Netiquette und AGB. Für ausführliche Diskussionen steht Ihnen ebenso das krone.at-Forum zur Verfügung. Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.

User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB). Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.



Kostenlose Spiele