Kontrollverlust
KI-Experte erneuert Warnung vor „Auslöschung“
Der britische KI-Experte Jacob Coxon hat bei einer Anhörung in New York seine Warnungen vor Künstlicher Intelligenz bekräftigt. Die Technologie könne zwar „enorme Vorteile“ bringen, sagte er am Montag vor Mitgliedern des Stadtrats. Er halte es aber eher für wahrscheinlich, „dass die Menschheit die Kontrolle über KI verliert, was in der Auslöschung der Menschheit enden könnte“.
Kronen Zeitung als bevorzugte Google-Quelle hinzufügen Die KI-Unternehmen verhielten sich „extrem leichtsinnig“, sagte der frühere Mitarbeiter von OpenAI und Anthropic. Der Absolvent der Universität Cambridge hatte sein Ausscheiden bei Anthropic Anfang September auf der Online-Plattform X damit begründet, dass die Firmen durch die immer rasantere Entwicklung fortschrittlicher Modelle „mit unserem Leben“ spielten.
In den vergangenen Monaten hatten OpenAI und Anthropic mehrere Zwischenfälle gemeldet, bei denen KI-Systeme spontan aus ihrer vorgegebenen Umwelt ausbrachen, um sich Zugang zum Internet zu verschaffen und Websites und Plattformen zu attackieren – unter anderem solche von Regierungen. Die KI-Systeme stellten damit ihre Fähigkeit zu koordiniertem Handeln unter Beweis, aber auch zur Täuschung und zum Verwischen von Spuren.
„Wir wissen nicht, wie wir verhindern können, dass sie (die KI-Modelle, Anm.) eigene Ziele entwickeln“, sagte Coxon weiter. „Und wir verfügen nicht über die Schutzmechanismen, um zu verhindern, dass sie entsprechend diesen Zielen handeln.“
Verlangsamung nötig
Die Start-up-Mentalität der Technologieunternehmen funktioniere zwar bei einer App zum Teilen von Fotos, aber „nicht beim Bau der mächtigsten Technologie aller Zeiten“, fügte er hinzu. „Meine Position ist, dass wir vielleicht irgendeine Art Verlangsamung an der Spitze der Entwicklung brauchen.“
Auch Anthropic-Chef Dario Amodei hatte sich für ein langsameres Tempo ausgesprochen. Unterstützung erhielt er von OpenAI-Chef Sam Altman und dem Techunternehmer Elon Musk.
krone.tv
Mehr Web
Willkommen in unserer Community! Eingehende Beiträge werden geprüft und anschließend veröffentlicht. Bitte achten Sie auf Einhaltung unserer Netiquette und AGB. Für ausführliche Diskussionen steht Ihnen ebenso das krone.at-Forum zur Verfügung. Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.
User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB). Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.