Whistleblower-Schutz

KI-Forscher wollen vor Risiken warnen dürfen

Eine Gruppe von KI-Forschern unter anderem vom ChatGPT-Erfinder OpenAI fordert das Recht ein, die Öffentlichkeit über Gefahren der Software warnen zu dürfen. Der aktuelle Schutz für Whistleblower reiche nicht aus, betonten die Experten in einem am Dienstag veröffentlichten offenen Brief. 

Denn dieser sei vor allem auf illegale Aktivitäten von Firmen ausgerichtet – aber bei Künstlicher Intelligenz gebe es in vielen Fällen noch keine rechtlichen Vorgaben. „Einige von uns fürchten zu Recht Vergeltungsmaßnahmen, da es bereits solche Fälle in der Branche gab“, hieß es in dem Brief.

Die Forscher riefen die Unternehmen mit fortgeschrittenen KI-Modellen auf, vier Grundsätze zu befolgen. Dazu gehört, den Mitarbeitern nicht negative Äußerungen über ihre Arbeitgeber zu verbieten. Jüngst wurde bekannt, dass OpenAI ehemaligen Mitarbeitern mit dem Verfall ihrer Aktienoptionen drohte, wenn sie die Firma „verunglimpfen“ sollten. OpenAI-Chef Sam Altman entschuldigte sich und ließ die Klausel, von der er nichts gewusst habe, streichen. Er behauptete auch, sie sei nie angewendet worden.

Eine weitere Forderung in dem Brief ist ein Verfahren, mit dem Mitarbeiter anonym die Verwaltungsräte von Unternehmen sowie Regulierer über aus ihrer Sicht bestehende Risiken bei KI-Software informieren können. Die müssten auch die Freiheit haben, an die Öffentlichkeit zu gehen, solange es keine internen Wege gebe.

Sorge vor Kontrollverlust
Einige KI-Experten warnen schon lange, die rasante Entwicklung Künstlicher Intelligenz könne zu autonomer Software führen, die sich der Kontrolle der Menschen entziehe. Die Folgen könnten von der Verbreitung von Falschinformation und Jobverlusten in großem Stil bis hin zur Vernichtung der Menschen reichen, heißt es oft. Regierungen arbeiten auch deswegen daran, Regeln für die Entwicklung von KI-Software aufzustellen.

OpenAI gilt mit der Software hinter ChatGPT als ein Vorreiter in dem Bereich. Eine Sprecherin von OpenAI sagte der „New York Times“ zu dem Brief, das Unternehmen glaube an eine wissenschaftliche Herangehensweise an Risiken der Technologie.

Bislang kein Grund zur Warnung
Vier aktuelle und zwei frühere Mitarbeiter von OpenAI schlossen sich dem Brief nur anonym an. Unter den sieben Unterzeichnern, die ihre Namen öffentlich machten, sind fünf ehemalige Beschäftigte von OpenAI und ein früherer Mitarbeiter der Google-Tochter DeepMind. Neel Nanda, der derzeit bei DeepMind arbeitet und zuvor beim KI-Start-up Anthropic war, betonte zugleich, dass ihm bei seinem aktuellen und früheren Arbeitgebern nichts untergekommen sei, wovor er warnen wolle.