Risiko unbeherrschbar
Pionier Anthropic fordert Pause bei KI-Forschung
Der KI-Entwickler Anthropic drängt die großen Unternehmen der Branche zu einer koordinierten Entwicklungspause bei der Künstlichen Intelligenz (KI). Der schnelle technologische Fortschritt könnte es KI-Systemen bald ermöglichen, sich so schnell zu verbessern, dass die Gesellschaft die Risiken nicht mehr beherrschen könne.
Kronen Zeitung als bevorzugte Google-Quelle hinzufügen Dies erklärte das Unternehmen, das seine KI-Sprachmodelle unter dem Namen „Claude“ vermarktet. Die Fähigkeit der KI, Aufgaben selbstständig zu erledigen, habe sich etwa alle vier Monate verdoppelt und steuere auf den Punkt der „rekursiven Selbstverbesserung“ zu, ab dem sich die Technologie ohne menschliches Eingreifen weiterentwickeln könne.
„Wenn Systeme in der Lage sind, ihre eigenen Nachfolger vollständig selbst zu entwickeln, gewinnt die Art und Weise, wie wir sie absichern, überwachen und ihr Verhalten steuern, erheblich an Bedeutung“, erklärte Anthropic in einem Blogbeitrag. Eine Pause würde es der Gesellschaft ermöglichen, sich mit den immensen Auswirkungen auseinanderzusetzen.
„Wir sind noch nicht so weit, und rekursive Selbstverbesserung ist nicht unvermeidlich. Aber sie könnte früher eintreten, als die meisten Institutionen darauf vorbereitet sind“, schrieben Anthropic-Mitbegründer Jack Clark und die Leiterin der hauseigenen Forschungsabteilung, Marina Favaro.
krone.tv
Mehr Digital
Willkommen in unserer Community! Eingehende Beiträge werden geprüft und anschließend veröffentlicht. Bitte achten Sie auf Einhaltung unserer Netiquette und AGB. Für ausführliche Diskussionen steht Ihnen ebenso das krone.at-Forum zur Verfügung. Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.
Hinweis in eigener Sache: Das krone.at-Forum präsentiert sich ab sofort in neuem Design! Wir freuen uns über konstruktives Feedback. Damit die Diskussionen in den Kommentarbereichen beim jeweiligen Thema bleiben, können Sie uns Rückmeldungen hier hinterlassen.
User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB). Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.