Google'da Porno Endişesi!

Görsel veya yazılı komutlardan görseller oluşturmaya yarayan, DALL-E, Stable Diffusion ve Midjourney gibi yapay zeka programları son zamanlarda epey popüler.

Buradan hareketle Meta ve Google, metinden video üreten yapay zeka algoritmaları tasarladı. Facebook, Instagram ve WhatsApp'ın sahibi Meta, video üreten yapay zeka algoritması Make-A-Video'yu ekim ayının başında duyurmuştu.

Şimdi de Google, yazılı komutlardan renkli videolar üreten Imagen Video algoritmasını tanıttı.

Yeni algoritmaya dair bilgileri çeşitli video örnekleriyle birlikte yayımlayan şirket, Imagen Video modelinden elde edilen görüntülerin 1280x768 çözünürlüğe kadar çıkarılabileceğini belirtiyor.

Bu, Meta'nın 768x768'e kadar çözünürlüğe çıkabilen Make-A-Video modelinden açık ara daha kaliteli.

Öte yandan Google yetkilileri, algoritmayı merakla denemeyi bekleyen kullanıcıları üzecek açıklamalarda bulundu.

Programı kullanıma açmamayı tercih eden şirket, bu kararı "güvenlik ve etikle ilgili birkaç önemli soruna" bağladı.

Yapılan açıklamada "sahte, nefret içerikli, müstehcen veya zararlı" olabilecek içeriklere dikkat çekildi:

Testlerimiz, müstehcen ve şiddet içeren içeriğin çoğunun filtrelenebileceğini gösteriyor ama yine de tespit edilmesi ve filtrelenmesi zor önyargılar ve klişeler var. Bu endişeler giderilene kadar Imagen Video modelini veya kaynak kodunu yayınlamamaya karar verdik.

Yazılı komutlardan görsel üreten yapay zeka modellerinde ortak kaygı, kullanıcıların pornografik içerik üretmeye çalışması.

Bu yüzden bazı modellerde sıkı filtreler uygulanıyor. Örneğin DALL-E'yi geliştiren şirket Open AI, kullanıcıların programda ne tür görüntüler üretebileceklerine dair sınırlar koyuyor. Bu yüzden programa "seks" gibi kelimelerin girilmesi yasak.

Açık kaynak kodlu Stable Diffusion'da denetim olmaması ise bu konuda tartışma yaratmıştı. Kullanıcıların bu programda pornografik içerik üretmeyi denemesi üzerine yapay zekayı geliştiren isimler alarma geçmişti.

Şirketin Twitter hesabından yapılan açıklamada şu ifadeler yer almıştı:

Annenize göstermekten utanacağınız hiçbir şey üretmeyin.

Google araştırmacıları, Imagen modelinin fotoğraf değil de video üretmesi nedeniyle bu konuda daha da endişeli. 

"Video modelleri, insan yaratıcılığını güçlendirerek ve artırarak toplumu olumlu yönde etkileyebilir" diyen araştırmacılar, şu notu düştü:

Ancak sahte, nefret içerikli, müstehcen veya zararlı içerik oluşturmak için kötüye de kullanılabilirler.