Yapay Zeka Çalışmalarına Ara Verilsin!

Elon Musk dışında Apple kurucusu Steve Wosniack’ın da yer aldığı bin imzacı YZ çalışmalarını insanla rekabet edebilir düzeye yaklaştığını ve bu nedenle en az altı ay ara verilmesi gerektiğini belirttiler. Yayınladıkları mektupta özetle şu ifadelere yer verildi:

“Kapsamlı araştırmaların gösterdiği ve üst düzey yapay zeka laboratuvarlarının onayladığı gibi, insanla rekabet eden zekaya sahip yapay zeka sistemleri toplum ve insanlık için büyük riskler oluşturabilir. Geniş çapta kabul gören “Asilomar AI İlkeleri”nde belirtildiği gibi, Gelişmiş YZ, dünya üzerindeki yaşam tarihinde büyük bir değişikliği temsil edebilir ve buna uygun özen ve kaynaklarla planlanmalı ve yönetilmelidir. Ne yazık ki, son aylarda YZ laboratuvarlarının hiç kimsenin, yaratıcılarının bile  tahmin etmesi veya güvenilir bir şekilde kontrol etmesi söz konusu olmayan daha güçlü dijital zihinler geliştirmek ve kullanılır hale getirmek için kontrolden çıkmış bir yarışa kilitlendiğinin görülmesine rağmen, bu düzeyde bir planlama ve yönetim gerçekleşmiyor.

Çağdaş yapay zeka sistemleri artık genel görevlerde insanlarla rekabet edebilir hale geliyor ve kendimize şu soruyu sormalıyız: Makinelerin bilgi kanallarımızı propaganda ve gerçek olmayan şeylerle doldurmasına izin vermeli miyiz? Tatmin edici olanlar da dahil olmak üzere tüm işleri otomatikleştirmeli miyiz? Sonunda sayıca üstün olabilecek, zekice üstün gelebilecek, modası geçmiş ve bizim yerimizi alabilecek insan olmayan zihinler geliştirmeli miyiz? Medeniyetimizin kontrolünü kaybetme riskine girmeli miyiz? Bu tür kararlar seçilmemiş teknoloji liderlerine devredilmemelidir. Güçlü yapay zeka sistemleri, yalnızca etkilerinin olumlu olacağından ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir. Böyle bir güven iyi bir şekilde gerekçelendirilmeli ve bir sistemin potansiyel etkilerine paralel olarak  artmalıdır.”

Açık mektup YZ çalışması yapan şirketlerin, araştırmalarını ve eğitimlerini altı ay süreyle durdurmaları çağrısı yaparken bu süre içinde bağımsız uzmanların katılımıyla bazı güvenlik protokolleri geliştirilmesi talebinde bulunuyor.

Mektubun tam metni için tıklayınız.