Beispiellose Gefahren
Nobelpreisträger fordern „rote Linien“ für KI
Rund 200 prominente Wissenschafter und KI-Experten, darunter zehn Nobelpreisträger, haben anlässlich der UN-Generaldebatte „rote Linien“ bei der Nutzung Künstlicher Intelligenz gefordert. „KI birgt ein immenses Potenzial für die Förderung des menschlichen Wohlergehens, doch ihre derzeitige Entwicklung birgt beispiellose Gefahren“, hieß es in einem am Dienstag veröffentlichten Schreiben.
Zu den Unterzeichnern des Briefs, der sich an die in New York versammelten Staats- und Regierungschef richtet, zählen zehn Nobelpreisträger sowie Mitarbeiter von führenden Unternehmen im Bereich Künstlicher Intelligenz wie Anthropic, Google DeepMind, Microsoft und OpenAI.
„Die Regierungen müssen entschlossen handeln, bevor sich das Zeitfenster für sinnvolle Eingriffe schließt“, heißt es in dem Aufruf. Die Unterzeichner rufen die Staats- und Regierungschefs auf, bis Ende 2026 „internationale Vereinbarungen über rote Linien für KI“ zu schließen.
„Risiken eindämmen“
Es müsse darum gehen, „den kleinsten gemeinsamen Nenner“ zu finden, „um die unmittelbarsten und inakzeptabelsten Risiken einzudämmen“. Als Beispiele werden in dem Brief die Übertragung der Kontrolle über Atomwaffenarsenale und autonome Waffensysteme an KI-Systeme oder der Einsatz von Künstlicher Intelligenz für Massenüberwachung genannt.
Die Wissenschafter und KI-Experten warnen zudem, dass die Künstliche Intelligenz schon bald die „menschlichen Fähigkeiten weit übertreffen könnte“. Falls es versäumt werde, der KI Grenzen zu setzen, könnte es in den kommenden Jahren immer schwieriger werden, „eine sinnvolle menschliche Kontrolle auszuüben“.
Kommentare
Willkommen in unserer Community! Eingehende Beiträge werden geprüft und anschließend veröffentlicht. Bitte achten Sie auf Einhaltung unserer Netiquette und AGB. Für ausführliche Diskussionen steht Ihnen ebenso das krone.at-Forum zur Verfügung. Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.
