Pionier Anthropic fordert Pause bei KI-Forschung

Der KI-Entwickler Anthropic drängt die großen Unternehmen der Branche zu einer koordinierten Entwicklungspause bei der Künstlichen Intelligenz (KI). Der schnelle technologische Fortschritt könnte es KI-Systemen bald ermöglichen, sich so schnell zu verbessern, dass die Gesellschaft die Risiken nicht mehr beherrschen könne.

Dies erklärte das Unternehmen, das seine KI-Sprachmodelle unter dem Namen „Claude“ vermarktet. Die Fähigkeit der KI, Aufgaben selbstständig zu erledigen, habe sich etwa alle vier Monate verdoppelt und steuere auf den Punkt der „rekursiven Selbstverbesserung“ zu, ab dem sich die Technologie ohne menschliches Eingreifen weiterentwickeln könne.

„Wenn Systeme in der Lage sind, ihre eigenen Nachfolger vollständig selbst zu entwickeln, gewinnt die Art und Weise, wie wir sie absichern, überwachen und ihr Verhalten steuern, erheblich an Bedeutung“, erklärte Anthropic in einem Blogbeitrag. Eine Pause würde es der Gesellschaft ermöglichen, sich mit den immensen Auswirkungen auseinanderzusetzen.

„Wir sind noch nicht so weit, und rekursive Selbstverbesserung ist nicht unvermeidlich. Aber sie könnte früher eintreten, als die meisten Institutionen darauf vorbereitet sind“, schrieben Anthropic-Mitbegründer Jack Clark und die Leiterin der hauseigenen Forschungsabteilung, Marina Favaro.