Experten in Sorge

Programm von OpenAI kann jetzt Stimmen klonen

Aufgrund des Potenzials für den Missbrauch synthetischer Stimmen habe sich das Unternehmen für einen „vorsichtigen“ Ansatz für eine breitere Freigabe entschieden, heißt es.(Bild: ArtemisDiana - stock.adobe.com)

Der ChatGPT-Entwickler OpenAI hat am Freitag ein Programm präsentiert, das Stimmen klonen kann. Experten befürchten nun, dass die neuen Fähigkeiten der Künstlichen Intelligenz missbraucht werden – gerade vor dem Hintergrund der heuer stattfindenden EU- und US-Präsidentschaftswahlen.

Das Modell namens „Voice Engine“ könne die Stimme eines Menschen auf Basis eines 15-sekündigen Audio-Originals duplizieren, heißt es in einem Blogeintrag von OpenAI, in dem die Ergebnisse eines Tests mit dem Programm vorgestellt werden.

OpenAI erklärte, diese Probleme zu berücksichtigen. Man sei sich bewusst, dass die Erzeugung von Stimmen, die denen von Menschen ähneln, ernsthafte Risiken birgt, die in einem Wahljahr besonders zu beachten seien, erklärte das Unternehmen aus San Francisco. Man arbeite mit Partnern unter anderem aus den Bereichen Politik, Medien, Unterhaltung, Bildung und Zivilgesellschaft zusammen, ihr Feedback werde bei der Entwicklung berücksichtigt.

(Bild: ymgerman - stock.adobe.com)

Regeln werden erarbeitet
Aufgrund des Potenzials für den Missbrauch synthetischer Stimmen habe sich das Unternehmen für einen „vorsichtigen“ Ansatz für eine breitere Freigabe entschieden. Partner, die „Voice Engine“ testeten, hätten Regeln zugestimmt. Diese sehen demnach unter anderem die ausdrückliche Zustimmung jedes Menschen vor, dessen Stimme mit dem Programm dupliziert wird. Außerdem müsse den Hörern deutlich gemacht werden, dass die Stimmen, die sie hören, von KI generiert wurden.

Künstliche Intelligenz ist massentauglich
OpenAI hatte im November 2022 zunächst mit der Einführung von ChatGPT für Furore gesorgt. Das Programm ist in der Lage, mit Hilfe von Künstlicher Intelligenz (KI) aus sehr kurzen Eingabeaufforderungen beispielsweise Essays, Gedichte oder Unterhaltungen zu generieren. ChatGPT machte die Möglichkeiten der KI damit schlagartig einem großen Publikum bewusst. Zugleich wuchsen aber die Befürchtungen über mögliche Gefahren der Technologie.

Das Unternehmen, das auch den Bildgenerator Dall-e entwickelt hat, hatte im Februar auch eine KI-Anwendung zur Produktion realistischer Videos namens Sora vorgestellt.