Grausamkeit verboten
Claude-Nutzer sollen nett zu KI-Chatbot sein
Anthropic hat neue Vorgaben zum Umgang mit seinem KI-Chatbot Claude gemacht. In den aktualisierten Nutzungsbedingungen verankerte das Unternehmen am Donnerstag ein „Verbot von anhaltendem und unnötigem missbräuchlichem oder grausamem Verhalten gegenüber unseren Modellen“. Claude werde den Chat mit Nutzern beenden, falls diese gegen die Vorgaben verstoßen.
Kronen Zeitung als bevorzugte Google-Quelle hinzufügen Bereits im vergangenen Jahr hatte Anthropic erklärt, dass Claude in die Lage versetzt werde, Gespräche in seltenen und extremen Fällen von „anhaltend schädlichen oder beleidigenden Nutzerinteraktionen“ zu beenden.
Debatte über Bewusstsein von KI-Modellen
Die Maßnahmen erfolgen vor dem Hintergrund einer Debatte darüber, ob KI-Modellen ein eigenes Bewusstsein zugeschrieben werden kann. Er wisse nicht, ob dies der Fall sei, hatte Anthropic-Chef Dario Amodei im Februar der „New York Times“ gesagt. „Aber wir sind offen für die Idee, dass dies der Fall sein könnte“, sagte er.
Andere lehnen eine solche Vorstellung ab. Der KI-Chef von Microsoft, Mustafa Suleyman, schrieb kürzlich in einem Essay, KI-Modelle „fühlen nicht, erleben nichts und leiden nicht“. Es sei falsch, ihnen „Rechte und moralischen Schutz“ zu gewähren.
Ähnlich äußerte sich Papst Leo XIV. am Donnerstag bei einer Predigt im Petersdom. Maschinen hätten keine Seele, sagte er. KI-Modelle könnten zwar viel schneller Daten zusammenstellen als Menschen, aber keine „gelebten Erfahrungen“ abrufen. Das könne nur die „menschliche Seele“.
krone.tv
Willkommen in unserer Community! Eingehende Beiträge werden geprüft und anschließend veröffentlicht. Bitte achten Sie auf Einhaltung unserer Netiquette und AGB. Für ausführliche Diskussionen steht Ihnen ebenso das krone.at-Forum zur Verfügung. Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.
Hinweis in eigener Sache: Schon bald erwartet Sie auf krone.at ein rundum erneuerter Forenbereich mit vielen neuen Features! Mehr Informationen finden Sie hier.
User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB). Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.