KI-Sicherheit
Anthropic gewährt externen Prüfern Zutritt
Der KI-Entwickler Anthropic gewährt nach eigenen Angaben externen Prüfern weitreichenden Zugang zu seinen Systemen, um die Technologie sicher zu entwickeln, ohne sie zu verlangsamen. Das gemeinnützige Unternehmen METR erhalte Zugang auf Mitarbeiterebene, teilte der Entwickler der Claude-Modelle am Donnerstag in einem Blogeintrag mit.
Kronen Zeitung als bevorzugte Google-Quelle hinzufügen Zudem arbeite man mit dem Unternehmen SecureBio und der KI-Firma Faculty als Prüfer zusammen, so Anthropic. Es liefen zudem Gespräche mit weiteren Firmen, darunter Hugging Face.
Die Nachrichtenagentur Reuters hatte Anfang der Woche berichtet, dass Anthropic und OpenAI zunächst eine erhebliche Kontrolle darüber anstrebten, was externe Prüfer veröffentlichen dürfen. Grund sei die Sorge vor der Weitergabe von Geschäftsgeheimnissen. Ein Insider sagte Reuters jedoch, dass sich die Gespräche zuletzt weiterentwickelt hätten und das Unternehmen offener geworden sei.
Sorge um geistiges Eigentum
Ein Streitpunkt zwischen Prüfern und KI-Laboren ist, dass Informationen, die die Unternehmen als entscheidendes geistiges Eigentum betrachten, auch für die Bewertung der Risiken eines Modells relevant sein können. Experten verwiesen zudem darauf, dass die Unabhängigkeit der Prüfer fraglich sei, da Anthropic und OpenAI selbst auswählen, wer die Überprüfungen durchführt.
Im Rahmen der Vereinbarung erhalten sechs Mitarbeiter von METR (Model Evaluation and Threat Research) Firmen-Hardware, Büroräume und Zugang zu internen Systemen, wie das Unternehmen erklärte. Kundendaten, rechtlich geschützte Informationen und die Modellarchitektur blieben jedoch tabu. Anthropic kann die Ergebnisse von METR etwa zu Risiken und Vorfällen nicht per Veto blockieren, aber eng definierte Schwärzungen verlangen. METR kann diese Schwärzungsanträge öffentlich hinterfragen, ohne die zurückgehaltenen Informationen preiszugeben.
Dreistufiges Zugangssystem
Anthropic entwickelt derzeit ein dreistufiges Zugangssystem. Prüfer der ersten Stufe führen eng begrenzte Untersuchungen durch und benötigen eine Genehmigung zur Veröffentlichung. Die zweite Stufe erhält mehr Informationen und kann ohne Genehmigung veröffentlichen, vorbehaltlich von Schwärzungen, die die Prüfer öffentlich anfechten können.
Die dritte und höchste Stufe, die von METR genutzt wird, bietet einen mitarbeiternahen Zugang mit ähnlichen Veröffentlichungsrechten wie die zweite Stufe. SecureBio befindet sich auf der ersten Stufe. Auch die Partnerschaft mit Faculty befinde sich in einem frühen Stadium mit begrenzterem Zugang.
krone.tv
Mehr Digital
Willkommen in unserer Community! Eingehende Beiträge werden geprüft und anschließend veröffentlicht. Bitte achten Sie auf Einhaltung unserer Netiquette und AGB. Für ausführliche Diskussionen steht Ihnen ebenso das krone.at-Forum zur Verfügung. Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.
Hinweis in eigener Sache: Das krone.at-Forum präsentiert sich ab sofort in neuem Design! Wir freuen uns über konstruktives Feedback. Damit die Diskussionen in den Kommentarbereichen beim jeweiligen Thema bleiben, können Sie uns Rückmeldungen hier hinterlassen.
User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB). Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.