Uzmanlar endişeli

OpenAI programı artık sesleri klonlayabiliyor

Sentetik seslerin kötüye kullanılma potansiyeli nedeniyle, şirketin daha geniş çapta piyasaya sürülmesi için "temkinli" bir yaklaşım seçtiği belirtiliyor.(Bild: ArtemisDiana - stock.adobe.com)

ChatGPT geliştiricisi OpenAI Cuma günü sesleri klonlayabilen bir program sundu. Uzmanlar şimdi, özellikle bu yılki AB ve ABD başkanlık seçimleri ışığında, yeni yapay zeka yeteneklerinin kötüye kullanılmasından korkuyor.

OpenAI tarafından yayınlanan ve programla yapılan bir testin sonuçlarını sunan bir blog yazısına göre, "Voice Engine" adı verilen model, 15 saniyelik bir ses orijinaline dayanarak bir insanın sesini kopyalayabiliyor.

OpenAI bu sorunları dikkate aldığını açıkladı. San Francisco merkezli şirket, insanlarınkine benzeyen seslerin üretilmesinin, seçim yılında özellikle dikkate alınması gereken ciddi riskler barındırdığının farkında olduğunu açıkladı. Şirket, siyaset, medya, eğlence, eğitim ve sivil toplum alanlarından ortaklarla birlikte çalışıyor ve geliştirme sırasında onların geri bildirimleri dikkate alınacak.

(Bild: ymgerman - stock.adobe.com)

Kurallar geliştiriliyor
Sentetik seslerin kötüye kullanılma potansiyeli nedeniyle, şirket daha geniş bir sürüm için "temkinli" bir yaklaşım seçti. "Voice Engine "i test eden iş ortakları kuralları kabul etmişti. Bu kurallar, diğer hususların yanı sıra, sesi programla çoğaltılan her kişinin açık rızasını gerektirmektedir. Ayrıca dinleyicilere duydukları seslerin yapay zeka tarafından üretildiğinin açıkça belirtilmesi gerekiyor.

Yapay zeka kitleler için uygundur
OpenAI ilk olarak Kasım 2022'de ChatGPT'nin lansmanıyla bir furya yarattı. Program, yapay zekayı (AI) kullanarak, örneğin çok kısa komutlardan denemeler, şiirler veya konuşmalar üretebilmektedir. ChatGPT bir anda geniş bir kitlenin yapay zekanın olanaklarından haberdar olmasını sağladı. Ancak aynı zamanda, teknolojinin potansiyel tehlikelerine ilişkin korkular da arttı.

Görüntü oluşturucu Dall-e'yi de geliştiren şirket, Şubat ayında Sora adlı gerçekçi videolar üretmeye yönelik bir yapay zeka uygulaması da sundu.