Verdachtsfälle
Anthropic warnt vor Claude-Nutzung für Biowaffen
Die KI-Firma Anthropic hat in den vergangenen Monaten nach eigenen Angaben mehrere Versuche von Forschern unterbunden, verschiedene Modelle ihrer Software Claude rund um die mögliche Entwicklung von Biowaffen zu nutzen. In einem ausführlichen Bericht über versuchten Missbrauch seiner KI-Modelle führt das Unternehmen fünf entsprechende Fälle an.
Kronen Zeitung als bevorzugte Google-Quelle hinzufügen Dabei hätten die Forscher nicht konkrete wissenschaftliche Hilfe gesucht, sondern eher organisatorische Unterstützung, etwa beim Verfassen von Papieren. KI-Modelle sind grundsätzlich darauf getrimmt, Hilfestellung bei der Entwicklung biologischer Waffen zu verweigern. Bei Forschung, die sowohl der Medizin als auch militärischen Zwecken dienen könne, sei es manchmal aber schwierig, eine klare Trennlinie zwischen harmlosen und bösartigen Absichten zu ziehen, erklärte Anthropic.
Riskante Forschung an Vogelgrippe
Bei einem der von der KI-Firma blockierten Zugriffsversuche sei probiert worden, mithilfe von Claude einen Antrag auf Förderung zur Forschung an einem Virus zu verfassen. Dabei sei es um sogenannte Gain-of-Function-Forschung gegangen, bei der die Übertragbarkeit eines Erregers erhöht wird. Eine gängige Methode bei der Suche nach Gegenmitteln in Laboren – aber eben auch ein Weg, Biowaffen zu entwickeln.
In einem anderen Fall wurde den Angaben zufolge versucht, mithilfe von Claude einen Plan für die Erforschung einer Vogelgrippe-Variante zu entwerfen, die sich auf Säugetiere übertragen ließe. Auch hier betont Anthropic, dass solche Forschung zwar der Prävention dienen könne, aber zugleich gefährliches Wissen schaffe, das bei der Waffenentwicklung verwendet werden könne. Ein weiterer Wissenschaftler habe Claude bei der Erstellung vierteljährlicher Fortschrittsberichte bei der Erforschung eines Toxins nutzen wollen.
Auf jeden Fall zeigten die Versuche, dass Wissenschafter aus blockierten Regionen und mit Verbindungen zu dortigen staatlichen Stellen versuchten, heimlich auf Künstliche Intelligenz amerikanischer Entwickler zuzugreifen, hieß es. Weder die Forschungseinrichtungen noch die Länder, aus denen sie stammen, wurden genannt.
Willkommen in unserer Community! Eingehende Beiträge werden geprüft und anschließend veröffentlicht. Bitte achten Sie auf Einhaltung unserer Netiquette und AGB. Für ausführliche Diskussionen steht Ihnen ebenso das krone.at-Forum zur Verfügung. Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.
User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB). Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.