Safe Superintelligence

OpenAI-Mitgründer sammelt eine Mrd. $ für Super-KI

Das neue KI-Start-up Safe Superintelligence (SSI) des OpenAI-Mitgründers Ilya Sutskever hat bei Investoren eine Milliarde Dollar an Kapital eingesammelt. Damit solle eine sichere Künstliche Intelligenz entwickelt werden, die menschliche Fähigkeiten bei Weiten übertrifft, teilte Safe Superintelligence am Mittwoch mit. 

Das gerade einmal drei Monate alte Unternehmen mit zehn Beschäftigten wird damit Insidern zufolge mit fünf Milliarden Dollar bewertet. Zu den Investoren gehören den Angaben zufolge die Wagniskapitalgeber Andreessen Horowitz und Sequoia Capital. „Für uns ist wichtig, von Investoren umgeben zu sein, die unsere Mission verstehen, respektieren und unterstützen“, sagte SSI-Chef Daniel Gross in einem Interview.

Sie bestehe darin, einige Jahre mit Forschung und Entwicklung zu verbringen, bevor die geplante Superintelligenz auf den Markt gebracht werde. Zunächst werde er sich darauf konzentrieren, Top-Entwickler anzuheuern und sich Rechenleistung für das KI-Training zu sichern.

Sorge vor Kontrollverlust
OpenAI und andere Firmen arbeiten an einer sogenannten Künstlichen Allgemeinen Intelligenz („Artificial General Intelligence“, AGI), die weitgehend unabhängig von menschlichen Eingriffen agieren kann. Die Sicherheit dieser Technologie ist in der Branche ein wichtiges Thema. Kritiker warnen, dass eine solche KI außer Kontrolle geraten und Menschen gefährden könnte. Auch OpenAI-Entwickler hatten im vergangenen Jahr auf die Risiken hingewiesen.

Schlüsselrolle bei Entlassung von OpenAI-CEO Altman
Der frühere Leiter von Apples KI-Sparte, Gross, hatte SSI im Juni gemeinsam mit Sutskever aus der Taufe gehoben, kurz nachdem dieser beim ChatGPT-Entwickler OpenAI ausgestiegen war. Sutskever hatte eine Schlüsselrolle bei der Entlassung und Wiedereinstellung des OpenAI-Chefs Sam Altman im vergangenen November gespielt. Nach Altmans Rückkehr wurde er aus dem Verwaltungsrat des Unternehmens entlassen.