"Großer roter Knopf"

Google plant “Kill Switch” für KI-Roboter

(Bild: Paramount Pictures)

Wie kann verhindert werden, dass Künstliche Intelligenz wie im "Terminator" die Herrschaft über die Welt übernimmt? Forscher des Google-Labors DeepMind sind dieser Frage nachgegangen und haben die Lösung gefunden: ein großer roter Knopf.

Gemeinsam mit der Universität Oxford gingen die KI-Experten von Google im Rahmen einer Studie mit dem Titel "Safely Interruptile Agents" der Frage nach, wie durch Künstliche Intelligenz gesteuerte "Agents", also etwa Roboter oder Maschinen, in ihrer Arbeit unterbrochen werden können. Schließlich würden sich diese "nicht immer optimal" benehmen, so die Forscher.

Ihr Lösungsansatz: "ein großer roter Knopf", also eine Art Killswitch, mit dem etwa Menschen, die Roboter in Produktionsstätten beaufsichtigen, Arbeitsvorgänge unterbrechen könnten, wie "Wired" berichtet.

KI muss ausgetrickst werden
Die Herausforderung dabei: Damit die Künstliche Intelligenz nicht lerne, diese Unterbrechungen selbstständig zu umgehen, müsse sie ausgetrickst werden. Denn Roboter, die in ihrer Arbeit gestoppt würden, warteten im Normalfall auf neue Befehle. Geschehe dies zu oft, könnte die KI irgendwann daraus lernen, den Stopp-Befehl zu missachten.

Die KI-Experten schlagen daher vor, der Maschine vorzutäuschen, dass sie sich selbst abgeschaltet hat und deswegen keine weiteren Befehle mehr erwartet. Ob sich jedoch alle Künstlichen Intelligenzen auf diese Weise "sicher unterbrechen" ließen, sei unklar, halten die Forscher fest.