Verbotene Anleitungen?

Psycho-Trick: So können Sie ChatGPT überlisten

KI-Chatbots haben ihre Prinzipien – die sich mit der richtigen Überzeugungstaktik jedoch aushebeln lassen.(Bild: TippaPatt – stock.adobe.com)

Eigentlich sollten KI-Chatbots Sie nicht beschimpfen oder Ihnen erklären, wie man verbotene Substanzen herstellt. Doch wie beim Menschen scheinen sich ChatGPT und Co. davon überzeugen zu lassen, ihre eigenen Regeln zu brechen. Es braucht lediglich die richtige Taktik.

Auch wenn wir ihnen mitunter Menschlichkeit und Gefühle attestieren: KI-Chatbots, genauer, sogenannte große Sprachmodelle (Large Language Models, kurz LLMs), die ihnen zugrunde liegen, werden anhand umfangreicher Sammlungen von menschengenerierten Texten – darunter Bücher, Webseiten und soziale Medien – trainiert, mit dem Ziel, die Differenz zwischen dem gewünschten und ihrem tatsächlichen Ergebnis zu minimieren.