Yeni Günaydın
Geri

Google'da Porno Endişesi!

Açıklamada "sahte, nefret içerikli, müstehcen veya zararlı" olabilecek içeriklere dikkat çekildi
Google'da Porno Endişesi!
Haberler / Teknolojik
12 Ekim 2022 Çarşamba 13:15
PAYLAŞ 
Facebook'ta Paylaş
Facebook'ta Paylaş
Facebook'ta Paylaş
Facebook'ta Paylaş
Facebook'ta Paylaş

Görsel veya yazılı komutlardan görseller oluşturmaya yarayan, DALL-E, Stable Diffusion ve Midjourney gibi yapay zeka programları son zamanlarda epey popüler.

Buradan hareketle Meta ve Google, metinden video üreten yapay zeka algoritmaları tasarladı. Facebook, Instagram ve WhatsApp'ın sahibi Meta, video üreten yapay zeka algoritması Make-A-Video'yu ekim ayının başında duyurmuştu.

Şimdi de Google, yazılı komutlardan renkli videolar üreten Imagen Video algoritmasını tanıttı.

Yeni algoritmaya dair bilgileri çeşitli video örnekleriyle birlikte yayımlayan şirket, Imagen Video modelinden elde edilen görüntülerin 1280x768 çözünürlüğe kadar çıkarılabileceğini belirtiyor.

Bu, Meta'nın 768x768'e kadar çözünürlüğe çıkabilen Make-A-Video modelinden açık ara daha kaliteli.

Öte yandan Google yetkilileri, algoritmayı merakla denemeyi bekleyen kullanıcıları üzecek açıklamalarda bulundu.

Programı kullanıma açmamayı tercih eden şirket, bu kararı "güvenlik ve etikle ilgili birkaç önemli soruna" bağladı.

Yapılan açıklamada "sahte, nefret içerikli, müstehcen veya zararlı" olabilecek içeriklere dikkat çekildi:

Testlerimiz, müstehcen ve şiddet içeren içeriğin çoğunun filtrelenebileceğini gösteriyor ama yine de tespit edilmesi ve filtrelenmesi zor önyargılar ve klişeler var. Bu endişeler giderilene kadar Imagen Video modelini veya kaynak kodunu yayınlamamaya karar verdik.

Yazılı komutlardan görsel üreten yapay zeka modellerinde ortak kaygı, kullanıcıların pornografik içerik üretmeye çalışması.

Bu yüzden bazı modellerde sıkı filtreler uygulanıyor. Örneğin DALL-E'yi geliştiren şirket Open AI, kullanıcıların programda ne tür görüntüler üretebileceklerine dair sınırlar koyuyor. Bu yüzden programa "seks" gibi kelimelerin girilmesi yasak.

Açık kaynak kodlu Stable Diffusion'da denetim olmaması ise bu konuda tartışma yaratmıştı. Kullanıcıların bu programda pornografik içerik üretmeyi denemesi üzerine yapay zekayı geliştiren isimler alarma geçmişti.

Şirketin Twitter hesabından yapılan açıklamada şu ifadeler yer almıştı:

Annenize göstermekten utanacağınız hiçbir şey üretmeyin.

Google araştırmacıları, Imagen modelinin fotoğraf değil de video üretmesi nedeniyle bu konuda daha da endişeli. 

"Video modelleri, insan yaratıcılığını güçlendirerek ve artırarak toplumu olumlu yönde etkileyebilir" diyen araştırmacılar, şu notu düştü:

Ancak sahte, nefret içerikli, müstehcen veya zararlı içerik oluşturmak için kötüye de kullanılabilirler.

YORUM EKLE

Yorumunuz gönderildi
Yorumunuz editör incelemesinden sonra yayınlanacaktır

YORUMLAR


   Bu haber henüz yorumlanmamış...

DİĞER HABERLER

Sayfa başına gitSayfa başına git
Facebook Twitter Instagram Youtube
GÜNDEM EKONOMİ POLİTİKA DÜNYA MEDYA SPOR YAZARLAR FOTO GALERİ VİDEO GALERİ SAĞLIK MAGAZİN KÜLTÜR-SANAT TEKNOLOJİK YAŞAM BUGÜN NEYE ZAM GELDİ DİKKAT! İLGİNÇ HABERLER
Masaüstü Görünümü
İletişim
Künye
Copyright © 2024 Yeni Günaydın