So, 22. Oktober 2017

"Großer roter Knopf"

08.06.2016 11:49

Google plant „Kill Switch“ für KI-Roboter

Wie kann verhindert werden, dass Künstliche Intelligenz wie im "Terminator" die Herrschaft über die Welt übernimmt? Forscher des Google-Labors DeepMind sind dieser Frage nachgegangen und haben die Lösung gefunden: ein großer roter Knopf.

Gemeinsam mit der Universität Oxford gingen die KI-Experten von Google im Rahmen einer Studie mit dem Titel "Safely Interruptile Agents" der Frage nach, wie durch Künstliche Intelligenz gesteuerte "Agents", also etwa Roboter oder Maschinen, in ihrer Arbeit unterbrochen werden können. Schließlich würden sich diese "nicht immer optimal" benehmen, so die Forscher.

Ihr Lösungsansatz: "ein großer roter Knopf", also eine Art Killswitch, mit dem etwa Menschen, die Roboter in Produktionsstätten beaufsichtigen, Arbeitsvorgänge unterbrechen könnten, wie "Wired" berichtet.

KI muss ausgetrickst werden
Die Herausforderung dabei: Damit die Künstliche Intelligenz nicht lerne, diese Unterbrechungen selbstständig zu umgehen, müsse sie ausgetrickst werden. Denn Roboter, die in ihrer Arbeit gestoppt würden, warteten im Normalfall auf neue Befehle. Geschehe dies zu oft, könnte die KI irgendwann daraus lernen, den Stopp-Befehl zu missachten.

Die KI-Experten schlagen daher vor, der Maschine vorzutäuschen, dass sie sich selbst abgeschaltet hat und deswegen keine weiteren Befehle mehr erwartet. Ob sich jedoch alle Künstlichen Intelligenzen auf diese Weise "sicher unterbrechen" ließen, sei unklar, halten die Forscher fest.

Das könnte Sie auch interessieren
Kommentar schreiben

Sie haben einen themenrelevanten Kommentar? Dann schreiben Sie hier Ihr Storyposting! Sie möchten mit anderen Usern Meinungen austauschen oder länger über ein Thema oder eine Story diskutieren? Dafür steht Ihnen jederzeit unser krone.at-Forum, eines der größten Internetforen Österreichs, zur Verfügung. Sowohl im Forum als auch bei Storypostings bitten wir Sie, unsere AGB und die Netiquette einzuhalten!
Diese Kommentarfunktion wird prä-moderiert. Eingehende Beiträge werden zunächst geprüft und anschließend veröffentlicht.

Kommentar schreiben
500 Zeichen frei
Kommentare
324

User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB).