So, 20. Jänner 2019

"Großer roter Knopf"

08.06.2016 11:49

Google plant "Kill Switch" für KI-Roboter

Wie kann verhindert werden, dass Künstliche Intelligenz wie im "Terminator" die Herrschaft über die Welt übernimmt? Forscher des Google-Labors DeepMind sind dieser Frage nachgegangen und haben die Lösung gefunden: ein großer roter Knopf.

Gemeinsam mit der Universität Oxford gingen die KI-Experten von Google im Rahmen einer Studie mit dem Titel "Safely Interruptile Agents" der Frage nach, wie durch Künstliche Intelligenz gesteuerte "Agents", also etwa Roboter oder Maschinen, in ihrer Arbeit unterbrochen werden können. Schließlich würden sich diese "nicht immer optimal" benehmen, so die Forscher.

Ihr Lösungsansatz: "ein großer roter Knopf", also eine Art Killswitch, mit dem etwa Menschen, die Roboter in Produktionsstätten beaufsichtigen, Arbeitsvorgänge unterbrechen könnten, wie "Wired" berichtet.

KI muss ausgetrickst werden
Die Herausforderung dabei: Damit die Künstliche Intelligenz nicht lerne, diese Unterbrechungen selbstständig zu umgehen, müsse sie ausgetrickst werden. Denn Roboter, die in ihrer Arbeit gestoppt würden, warteten im Normalfall auf neue Befehle. Geschehe dies zu oft, könnte die KI irgendwann daraus lernen, den Stopp-Befehl zu missachten.

Die KI-Experten schlagen daher vor, der Maschine vorzutäuschen, dass sie sich selbst abgeschaltet hat und deswegen keine weiteren Befehle mehr erwartet. Ob sich jedoch alle Künstlichen Intelligenzen auf diese Weise "sicher unterbrechen" ließen, sei unklar, halten die Forscher fest.

Kommentare

Eingeloggt als 
Nicht der richtige User? Logout

Willkommen in unserer Community! Eingehende Beiträge werden geprüft und anschließend veröffentlicht. Bitte achten Sie auf Einhaltung unserer Netiquette und AGB. Für ausführliche Diskussionen steht Ihnen ebenso das krone.at-Forum zur Verfügung.

User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB).

Aktuelle Schlagzeilen
Frimmel herausragend
Nächste WM-Pleite: 22:24 gegen Argentinien!
Sport-Mix
0:0 im San Siro
Rapid-Gegner Inter blamiert sich gegen Sassuolo!
Fußball International
Chelsea enttäuscht
0:2! Blasse Blues verlieren Derby gegen Arsenal!
Fußball International
0:2 bei Bournemouth
West-Ham-Coach: „Arnautovic mit dem Kopf woanders“
Fußball International
1:0 in Leipzig
Super-Bürki rettet Dortmunds Sieg gegen Leipzig!
Fußball International
„Fantastisch gespielt“
2:1! Hasenhüttl haucht Southampton neues Leben ein
Fußball International
Neymar zauberte
9:0! Verheerende Pariser Rache an Guingamp
Fußball International
Späte Tore
Real holt verdienten 2:0-Heimsieg gegen Sevilla!
Fußball International
Siegel stürzt in Polen
Sensationelle ÖSV-Adler schrammen am Sieg vorbei!
Wintersport
Deutsche Bundesliga
Drama in Stuttgart, Hütters „Büffelherde“ stark
Fußball International
Auch Walli schafft es
Super-Sprint bringt Alexandra Toth zur EM!
Sport-Mix

Newsletter

Melden Sie sich hier mit Ihrer E-Mail-Adresse an, um täglich den "Krone"-Newsletter zu erhalten.