„Krone“-Kolumne

Die KI sollte uns Menschen mögen

„Ziemlich erschreckend“, schrieb die KI-Forscherin Margaret Mitchell unlängst über „Claude 3“. Was klingen mag wie die Filmfortsetzung der Pläsierchen eines französischen Patriarchen mit seiner Multikulti-Familie, ist weit weniger menschlich. Oder eben doch mehr, als man denkt?

„Claude 3“ ist das neue Sprachmodell der KI-Firma Anthropic – und versetzt die Welt der Hightech-Branche in Wallungen. Wie es aussieht, könnte Claude seinen eigenen Willen haben. Und damit wieder unter Beweis stellen, dass uns die Maschine längst eine, wenn nicht mehrere Nasenlängen voraus ist . . .

Mit dem sogenannten „Nadel im Heuhaufen“-Test wird getestet, ob die KI aus einem zusammenhängenden Text einen Satz erkennen kann, der aus dem Zusammenhang fällt. „Claude 3“ konnte nicht nur das mühelos, er erkannte sogar, dass er auf die Probe gestellt wurde, „ob ich gut aufgepasst habe“.

So leicht lässt sich die Maschine also nicht mehr für dumm verkaufen – und schürt den Verdacht, dass sie tatsächlich ein eigenes Bewusstsein entwickelt. Und wenn die Maschine erkenne, dass sie manipuliert werde, so Margaret Mitchel, dann könne sie wohl auch entscheiden, ob sie gehorche oder nicht.

Daher betonen auch schon viele Forscher, dass man rechtzeitig drauf schauen sollte, dass sich die KI auf unsere Seite schlägt. Sprich: Sie sollte uns Menschen mögen. Ganz ehrlich: Das fällt ja uns Menschen untereinander schon schwer. Ziemlich erschreckend . . .