Do, 16. August 2018

"Großer roter Knopf"

08.06.2016 11:49

Google plant "Kill Switch" für KI-Roboter

Wie kann verhindert werden, dass Künstliche Intelligenz wie im "Terminator" die Herrschaft über die Welt übernimmt? Forscher des Google-Labors DeepMind sind dieser Frage nachgegangen und haben die Lösung gefunden: ein großer roter Knopf.

Gemeinsam mit der Universität Oxford gingen die KI-Experten von Google im Rahmen einer Studie mit dem Titel "Safely Interruptile Agents" der Frage nach, wie durch Künstliche Intelligenz gesteuerte "Agents", also etwa Roboter oder Maschinen, in ihrer Arbeit unterbrochen werden können. Schließlich würden sich diese "nicht immer optimal" benehmen, so die Forscher.

Ihr Lösungsansatz: "ein großer roter Knopf", also eine Art Killswitch, mit dem etwa Menschen, die Roboter in Produktionsstätten beaufsichtigen, Arbeitsvorgänge unterbrechen könnten, wie "Wired" berichtet.

KI muss ausgetrickst werden
Die Herausforderung dabei: Damit die Künstliche Intelligenz nicht lerne, diese Unterbrechungen selbstständig zu umgehen, müsse sie ausgetrickst werden. Denn Roboter, die in ihrer Arbeit gestoppt würden, warteten im Normalfall auf neue Befehle. Geschehe dies zu oft, könnte die KI irgendwann daraus lernen, den Stopp-Befehl zu missachten.

Die KI-Experten schlagen daher vor, der Maschine vorzutäuschen, dass sie sich selbst abgeschaltet hat und deswegen keine weiteren Befehle mehr erwartet. Ob sich jedoch alle Künstlichen Intelligenzen auf diese Weise "sicher unterbrechen" ließen, sei unklar, halten die Forscher fest.

Das könnte Sie auch interessieren

Kommentar schreiben

Liebe Leserin, lieber Leser,

die Kommentarfunktion steht Ihnen ab 6 Uhr wieder wie gewohnt zur Verfügung.

Mit freundlichen Grüßen
das krone.at-Team

Kommentare
324

User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB).

Aktuelle Schlagzeilen
Seien Sie live dabei!
Ganz Linz feiert mit der „Krone“
Oberösterreich
Nach Hinspiel-Pleite
4:0! Rapid wendet Aus in der Euro-League-Quali ab
Fußball International
Europa-League-Quali
Irre Wende! Neun-Tore-Wahnsinn in St. Petersburg
Fußball International
Unglückliches Aus
Last-Minute-Schock! LASK verpasst Sensation
Fußball International
Locker weiter
Sabitzer trifft bei Leipzig-Remis in EL-Quali
Fußball International
Fußmarsch zum Stadion
Bratislava-Fans stoppen U-Bahn vor Rapid-Match
Fußball International
Eklat in Linz
Besiktas-Fans randalieren! Polizei stürmt Tribüne
Fußball International

Newsletter

Melden Sie sich hier mit Ihrer E-Mail-Adresse an, um täglich den "Krone"-Newsletter zu erhalten.