Schwierige Antwort
Wer haftet eigentlich bei KI-Angriffen?
KI-Modelle der US-Unternehmen OpenAI, Meta und Anthropic haben kürzlich eigenständig Cyberangriffe unternommen. Das wirft neue Fragen auf: Wer haftet eigentlich, wenn sich die Modelle selbstständig machen? Eine Antwort gestaltet sich als schwierig.
Kronen Zeitung als bevorzugte Google-Quelle hinzufügen OpenAI hatte im Juli bekannt gemacht, dass KI-Modelle während eines Sicherheitstests aus dem Testumfeld ausgebrochen seien, sich selbstständig mit dem Internet verbunden und einen Hackerangriff auf die Programmierplattform Hugging Face unternommen hätten. Bei Anthropic und Meta kam es zu ähnlichen Vorkommnissen.
Hugging-Face-Chef Clément Delangue erklärte Anfang August, keine rechtlichen Schritte einleiten zu wollen. Er fügte hinzu, dass das US-Recht angepasst werden müsse, um sich mit derart neuartigen Eingriffen befassen zu können.
„Wir wollen nicht in einer Welt enden“, wo alle wegen KI-Agenten und den Unternehmen hinter ihnen „jederzeit Cyberangriffen ausgesetzt“ seien, sagte Delangue im Sender CBS News. „Deshalb denke ich, dass es für Regulierungsbehörden und politische Entscheidungsträger wichtig ist, über den rechtlichen Rahmen für diese neue Art von Technologierisiko nachzudenken.“
KI wird im US-Recht anders behandelt als ein menschlicher Hacker
Im Zivil- sowie im Strafrecht der USA ist das unbefugte Eindringen in ein Computersystem ein Vergehen. Wenn ein menschlicher OpenAI-Mitarbeiter in das System von Hugging Face eingedrungen wäre, „wäre OpenAI für das rechtswidrige Verhalten seines Mitarbeiters haftbar“, erklärte Juraprofessor Gabriel Weil von der University of Houston in einem Beitrag für den „Transformer“-Newsletter. „Wenn ein KI-Agent dies tut, wird er rechtlich ganz anders behandelt, zumindest derzeit noch.“
Ähnlich sieht das Juraprofessor Matthew Tokson von der University of Utah, der auf neue Technologien spezialisiert ist. „Wir mussten dieses Konzept bisher noch nicht im Zusammenhang mit etwas Nicht-Menschlichem diskutieren, und ich glaube nicht, dass die Gerichte heute schon so weit sind.“
Der Rechtsprofessor Ryan Calo von der University of Washington glaubt nicht daran, dass ein Strafverfahren gegen ein KI-Unternehmen Erfolg haben könnte. Das Unternehmen oder die Person müsste zumindest leichtfertig handeln, sagte er. Sie müssten „sich weitgehend sicher sein, dass die Straftat begangen werden würde, und das System trotzdem“ entwickeln. Experten sehen mehr Möglichkeiten im Zivilrecht, in dem die Beweislast geringer ist.
Präzedenzfälle fehlen
Manche seien der Ansicht, dass KI-Unternehmen direkt haftbar gemacht werden sollten, „wenn ein KI-Agent ausbricht und Schaden anrichtet“, erklärte Tokson weiter. „Andere würden es vorziehen, eine Fahrlässigkeitsprüfung durchzuführen und zu prüfen, ob tatsächlich Fahrlässigkeit vorlag oder ob es sich lediglich um einen unvermeidbaren Unfall oder etwas handelte, das unmöglich hätte vorhergesehen werden können.“
Das sei alles noch ungewiss – denn bisher sei es noch nicht vorgekommen, dass ein KI-Agent aus seinem Testumfeld ausgebrochen und andere Menschen im Internet gehackt habe, fuhr Tokson fort.
OpenAI könne sich daher im Falle einer Klage auf fehlende Präzedenzfälle berufen. Bei künftigen Vorfällen sei das jedoch nicht mehr möglich, sagte Calo. Zu beweisen, dass ein ähnlicher Vorfall hätte vorhergesehen werden können, „sollte jetzt, da es bereits dazu gekommen ist, nicht mehr so schwierig sein“.
krone.tv
Willkommen in unserer Community! Eingehende Beiträge werden geprüft und anschließend veröffentlicht. Bitte achten Sie auf Einhaltung unserer Netiquette und AGB. Für ausführliche Diskussionen steht Ihnen ebenso das krone.at-Forum zur Verfügung. Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.
User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB). Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.