OpenAI und Anthropic

KI-Pioniere arbeiten mit US-Regierung zusammen

Die führenden Entwickler von Anwendungen generativer Künstlicher Intelligenz (KI), OpenAI und Anthropic, haben zugestimmt, für Sicherheitstests mit der US-Regierung zusammenzuarbeiten.

Elizabeth Kelly, die im staatlichen Nationalen Institut für Standards und Technologie (NIST) die Abteilung für KI-Sicherheit leitet, sprach am Donnerstag von einem „wichtigen Meilenstein auf dem Weg zu einem verantwortungsvollen Umgang mit KI“.

Behörde überprüft neue Modelle
Demnach werden neue KI-Modelle künftig zuerst der US-Behörde zugängig gemacht, diese werde dann vor und nach der Veröffentlichung Feedback geben. Die USA haben bisher von strengen Regeln für KI-Entwickler abgesehen und setzen vor allem auf freiwillige Selbstregulierung. Die nun angekündigte Kooperation mit der US-Behörde fällt darunter. Es gehe darum, die Umsetzung der freiwilligen Verpflichtungen der Unternehmen zu unterstützen, erklärte das NIST.

Die Zusammenarbeit nutzte die „umfassende Expertise“ des NIST, „um unsere Modelle vor einem breiten Einsatz rigoros zu testen“, erklärte Jack Clark von Anthropic. „Dies stärkt unsere Fähigkeit, Risiken zu erkennen und abzumildern und eine verantwortungsvolle KI-Entwicklung voranzutreiben.“

EU mit KI-Gesetz restriktiver
Washington ist bestrebt, Technologieunternehmen weitgehend freie Hand für Innovationen und Experimente mit KI zu lassen. Im Gegensatz dazu hat die EU ein weitreichende KI-Gesetz verabschiedet, dass der Technologie und ihren Entwicklern Vorgaben macht. Auch in den USA gibt es Stimmen, die dies fordern. Der Bundesstaat Kalifornien, wo im Silicon Valley viele führende Tech-Unternehmen angesiedelt sind, hatte am Mittwoch ein KI-Sicherheitsgesetz verabschiedet.

OpenAI-Chef Sam Altman begrüßte am Donnerstag die Vereinbarung zur Zusammenarbeit mit der US-Regierung. Es sei wichtig, dass die Regulierung auf nationaler Ebene stattfinde, erklärte er. Das kalifornische Gesetz, das viel weiter geht als die nationale Vereinbarung mit den Unternehmen und etwa auch Strafen für Unternehmen vorsieht, lehnt OpenAI ab, da es Forschung und Innovation hemme.