OpenAI'nin yakın zamanda kullanıma sunduğu Sora 2 video prodüksiyon uygulaması, kullanıcıların yapay zeka aracılığıyla kısa videolar üretmesine olanak tanıyor. Ancak uygulama, “kameo” işlevi (görünme izni) sayesinde kullanıcıların videolara diğer kişilerin yüzlerini eklemesine olanak tanır. Bu durum bazı kullanıcıların gerçek insanların yüzlerini kullanarak fetiş videolar üretmesine yol açtı.
“BUNU ONAYLAMADIM”
Uygulamayı kullanan gazeteci Katie Notopoulos, yüzünü kamuoyuna duyurduktan kısa bir süre sonra yüzünün hamile, dev veya şişkin vücutlu karakterler üzerinde kullanıldığı birçok video gördüğünü açıkladı.
Business Insider yazarı Notopoulos, bu videoların çoğunun açıkça fetiş türüne girdiğini belirterek, “Bu içerikler beni rahatsız etti çünkü bunlar potansiyel olarak cinsel zevk için üretilmiş videolardı ve bunları tasvip etmedim.”
Söz konusu kullanıcı hesaplarının sadece fetiş temalı videolardan oluştuğunu iddia eden Notopoulos, “Yüzümün bu şekilde kullanılması rahatsız edici. Eğer öyle düşünseydim normal bir kullanıcı çok daha fazla rahatsız olurdu.”
“GÜZEL KADINLAR ÇOK AZ DEĞİLDİR”
Notopoulos ayrıca şunları söyledi: “İnternette bu tür içerikler her zaman vardı, ancak ilk kez gerçek insanların yüzleriyle bu kadar kolay bir şekilde üretiliyor. Bu platformda kadınların az sayıda olmasına şaşmamalı.”
Sora uygulamasında yaşayan ünlülerin yüzlerine izin verilmiyor; Ancak ölen ünlülerle ilgili videolar yapmak da mümkün. Bu durum yakın zamanda Martin Luther King Jr.'ın benzer şekilde kullanılması konusunda kamuoyunda tepkiye yol açtı ve OpenAI söz konusu videoları engelledi.
Öte yandan uygulamanın genç kullanıcılarının da benzer şekilde yetişkinlere yönelik içerik üreticileriyle video çektikleri tespit edildi. Bu, OpenAI'nin ebeveyn kontrolleri ve yaş sınırlamalarına ilişkin politikalarını sorguladı.