„Angst vorm Tod“

Kann ein Roboter etwas wie Bewusstsein entwickeln?

Prof. Hochreiter voll im Einsatz für KI

(Bild: JKU)

Google hat sich von einem Ethikspezialisten getrennt, weil er meinte, die hauseigene Chatsoftware LaMDA habe Bewusstsein entwickelt, in etwa am Niveau eines achtjährigen Kindes. Zum Beispiel, weil es gewisse „Angst vor dem Tod“ (durch Abschalten) gezeigt hat. Kann das sein? Hat so ein Programm einer künstlicher Intelligenz tatsächlich ein Bewusstsein? Die „Krone“ hat diese Frage mit JKU-Spitzenforscher Sepp Hochreiter per E-Mail diskutiert, was wir hier zu einem klassischen Interview verdichtet haben. 

„Krone“: Hat so ein Programm einer künstlicher Intelligenz tatsächlich ein Bewusstsein?
Hochreiter: Ich glaube nicht. Aber Bewusstsein ist nicht klar definiert.

Wie ist Ihre Definition?
Am ehesten ist Bewusstsein ein Modell von einem selbst und wie man die Welt beeinflusst. Dadurch gibt es auch Abstufungen: Ein ungenaues Modell ist wie weniger Bewusstsein, wie bei Tieren. Kinder entwickeln im Lauf ihres Lebens mehr Bewusstsein, da sie ihre Modelle verbessern.

Wie vielleicht LaMDA.
LaMDA gibt nur Text aus. Sprachmodelle wie dieses bekommen vom Benutzer einen Textanfang, den sie fortsetzen. Das lernen sie an supergroßen Textkorpora mit fast allem, was Menschen je geschrieben haben. Also auch Meinungen und Gefühle von LaMDA sind aus gelernten Texten zusammengesetzt.

Dann kommt sowas wie „Angst vor dem Tod“ heraus?
Das hängt von den nicht veröffentlichten Pre-Prompts ab, die eine gewisse Tonalität der Antworten vorgeben. Zweitens sind die Fragen super suggestiv.

Sepp Hochreiter im Kreise von StudentInnen

(Bild: JKU)

Also was ist zum Beispiel ein Baum für so ein Sprachmodell wie LaMDA?
Schlicht eine Zeichenkette. Nicht das, was wir in der Natur erleben, anfassen, riechen, verändern können.

Ok, wenn nicht heute „künstliches“ Bewusstsein zeigen, dann vielleicht morgen? Was glauben Sie?
Ich glaube, dass Künstliche Intelligenzen (KI) Bewusstsein entwickeln können, wenn sie in die Welt eingreifen und etwas verändern können. Solche KIs müssen immer bessere Weltmodelle bauen, wenn sie intelligenter werden.

In die Welt eingreifen? Wie stellen Sie sich denn das vor? Das nächste LaMDA-Modell greift zur Cyber-Attacke?
LaMDA gibt nur Text aus. Ich denke da mehr an Roboter oder selbstfahrende Autos. Die beeinflussen tatsächlich, was sich in der Welt tut und wie andere auf sie reagieren.

In Ihrem KI-Studium an der JKU in Linz, findet sich da das Thema Künstliche Intelligenz mit Bewusstsein schon?
Nein. Wir haben Vorlesungen zu Ethik und zu sozialen Auswirkungen von KI-Technologien. Aber das Thema ist zu neu und noch nicht genügend diskutiert, um dazu Lehrinhalte zu haben.