Die liebevolle Gnade der Künstlichen Intelligenz

„Behütet von Maschinen mit liebevoller Gnade.“ So beschrieb der amerikanische Schriftsteller Richard Brautigan 1963 in seinem gleichnamigen Gedicht eine Utopie, in der „Säugetiere und Computer in gegenseitiger programmierender Harmonie zusammenleben“. Der Mensch, aller Arbeit entbunden, könne wieder eins werden mit der Natur.

Den Titel des Gedichts lieh sich Dario Amodei, Gründer des großen KI-Players Anthropic, 2024 für ein Essay über einen digitalen Garten Eden, in dem unheilbare Krankheiten und der Klimawandel besiegt sein würden – und der Wohlstand gerecht verteilt.

Zwei Jahre später klingt Amodei anders. Nun warnt er davor, wie schnell uns die Maschine aus dem Paradies befördern und zum Zerstörer der Welt werden könnte. Vor allem im Kriegsfall. Denn um ihr Ziel zu erreichen, ist ihr die Menschheit egal, da geht sie gnadenlos über Leichen. Wenn nötig, auch über die eigene.

Dass Amodei auf zwei Sicherheitsschranken beharrt, sorgte jetzt für reichlich Diskussionen. Sein Sprachmodell Claude darf weder selbst über Leben und Tod bestimmen, noch zur Massenüberwachung benutzt werden. Dafür wurde es kurzerhand von „Kriegsminister“ Pete Hegseth aus dem Pentagon verbannt. Stattdessen sitzt OpenAI am Ruder 2.0, die sehen das nicht so eng.

Diese machtvolle Maschine in den Händen solcher Menschen zu wissen, lässt wohl nicht einmal mehr die Dichter von liebevoller Gnade träumen ...