Datenschutz

ChatGPT mit sofortiger Wirkung in Italien gesperrt

Der KI-Chatbot soll unerlaubterweise persönliche Daten gesammelt haben.

(Bild: Timon - stock.adobe.com)

Italiens Datenschutzbehörde hat ChatGPT am Freitag wegen der Verletzung von Datenschutzbestimmungen mit sofortiger Wirkung gesperrt. Konkret wurde die Einschränkung der Verarbeitung von Daten italienischer Nutzer durch OpenAI verfügt, jene US-Unternehmen, das den populären KI-Chatbot entwickelt hat und verwaltet. Gleichzeitig leitete die Behörde eine Voruntersuchung ein.

Begründet wurde die Entscheidung mit der mangelnden Information der Nutzer, aber vor allem mit dem Fehlen einer Rechtsgrundlage, die das massive Sammeln und Speichern personenbezogener Daten rechtfertige. ChatGPT, die bekannteste Software für Künstliche Intelligenz, die in der Lage ist, menschliche Unterhaltungen zu simulieren und zu verarbeiten, hatte am 20. März einen Datenverlust (Data Breach) erlitten, der die Unterhaltungen der Nutzer und die Zahlungsinformationen der Abonnenten seines kostenpflichtigen Dienstes betraf.

Massiv Daten erfasst
Die italienische Behörde stellte fest, dass die Nutzer und all diejenigen, deren Daten von OpenAI erfasst werden, nicht darüber informiert wurden, vor allem aber, dass es keine Rechtsgrundlage gibt, die die massive Erfassung und Speicherung personenbezogener Daten zum Zwecke des „Trainings“ der Algorithmen, die dem Betrieb der Plattform zugrunde liegen, rechtfertige. Wie die Überprüfungen gezeigt haben, stimmen die von ChatGPT bereitgestellten Informationen zudem nicht immer mit den tatsächlichen Daten überein, was zu einer ungenauen Verarbeitung personenbezogener Daten führt.

Obwohl sich der Dienst laut den von OpenAI veröffentlichten Bedingungen an Personen über 13 Jahren richtet, weist die Behörde darauf hin, dass das Fehlen eines Filters zur Überprüfung des Alters der Nutzer dazu führe, dass Minderjährige Antworten erhalten, die für ihren Entwicklungsstand und ihr Selbstbewusstsein völlig ungeeignet sind.

Millionenstrafe droht
OpenAI, das keine Niederlassung in der EU hat, aber einen Vertreter im Europäischen Wirtschaftsraum nominiert hat, muss innerhalb von 20 Tagen mitteilen, welche Maßnahmen es zur Umsetzung der Aufforderung der italienischen Behörden ergriffen hat. Ansonsten droht OpenAI eine Strafe von bis zu 20 Millionen Euro oder bis zu vier Prozent seines weltweiten Jahresumsatzes.