Die führenden Entwickler von Anwendungen generativer Künstlicher Intelligenz (KI), OpenAI und Anthropic, haben zugestimmt, für Sicherheitstests mit der US-Regierung zusammenzuarbeiten.
Elizabeth Kelly, die im staatlichen Nationalen Institut für Standards und Technologie (NIST) die Abteilung für KI-Sicherheit leitet, sprach am Donnerstag von einem „wichtigen Meilenstein auf dem Weg zu einem verantwortungsvollen Umgang mit KI“.
Behörde überprüft neue Modelle
Demnach werden neue KI-Modelle künftig zuerst der US-Behörde zugängig gemacht, diese werde dann vor und nach der Veröffentlichung Feedback geben. Die USA haben bisher von strengen Regeln für KI-Entwickler abgesehen und setzen vor allem auf freiwillige Selbstregulierung. Die nun angekündigte Kooperation mit der US-Behörde fällt darunter. Es gehe darum, die Umsetzung der freiwilligen Verpflichtungen der Unternehmen zu unterstützen, erklärte das NIST.
Die Zusammenarbeit nutzte die „umfassende Expertise“ des NIST, „um unsere Modelle vor einem breiten Einsatz rigoros zu testen“, erklärte Jack Clark von Anthropic. „Dies stärkt unsere Fähigkeit, Risiken zu erkennen und abzumildern und eine verantwortungsvolle KI-Entwicklung voranzutreiben.“
EU mit KI-Gesetz restriktiver
Washington ist bestrebt, Technologieunternehmen weitgehend freie Hand für Innovationen und Experimente mit KI zu lassen. Im Gegensatz dazu hat die EU ein weitreichende KI-Gesetz verabschiedet, dass der Technologie und ihren Entwicklern Vorgaben macht. Auch in den USA gibt es Stimmen, die dies fordern. Der Bundesstaat Kalifornien, wo im Silicon Valley viele führende Tech-Unternehmen angesiedelt sind, hatte am Mittwoch ein KI-Sicherheitsgesetz verabschiedet.
OpenAI-Chef Sam Altman begrüßte am Donnerstag die Vereinbarung zur Zusammenarbeit mit der US-Regierung. Es sei wichtig, dass die Regulierung auf nationaler Ebene stattfinde, erklärte er. Das kalifornische Gesetz, das viel weiter geht als die nationale Vereinbarung mit den Unternehmen und etwa auch Strafen für Unternehmen vorsieht, lehnt OpenAI ab, da es Forschung und Innovation hemme.
Kommentare
Liebe Leserin, lieber Leser,
die Kommentarfunktion steht Ihnen ab 6 Uhr wieder wie gewohnt zur Verfügung.
Mit freundlichen Grüßen
das krone.at-Team
User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB). Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.