Yapay Zeka Komutanı Öldürdü!

ABD ordusunun gerçekleştirdiği bir simülasyon testinde yapay zekanın 'görevini tamamlamasını önlediği için' komutanını öldürdüğü ortaya çıktı.

ABD ordusu, yapay zekalı yeni bir teste imza attı. Test, kontrolden çıkan yapay zekanın ne kadar tehlikeli olabileceğini ortaya koydu.

Bir yetkili tarafından geçen ay yapılan açıklamada, ABD ordusunun düzenlediği testte, yapay zeka tarafından kontrol edilen bir insansız hava aracının (İHA) kendisine verilen emri yerine getirmesini engelleyen komutanı öldürdüğü belirtildi.

Mayıs ayında Londra'da düzenlenen bir etkinlikte konuşan ABD Hava Kuvvetleri'nde yapay zeka testi ve operasyonları şefi Col Tucker Hamilton, yapay zekayla hareket eden İHA'ya düşmanın hava savunma sistemlerini imha etmesi emrinin verildiğini söyledi.

'Yapay zekanın hedefine ulaşmak için beklenmedik stratejiler' kullandığını söyleyen Hamilton'ın açıklamaları, hedefine kilitlenene bir yapay zekanın doğuracağı tehlikeli sonuçları gözler önüne serdi.

Hamilton konuşmasına şöyle devam etti:

“Yapay zeka, tehdidi belirlemelerine rağmen operatörün öldürmeme emri verdiğini fark ediyor. Ancak tehdidi öldürme emri de var. Peki ne yapıyor? Komutanı öldürüyor çünkü bu kişi, hedefine ulaşmasını engelliyor.”

Olayın ardından sistemin eğitime tabi tutulduğunu aktaran ABD'li komutan, "Yapay zekaya operatörü öldürmenin kötü bir şey olduğunu, bunu yaparsa puan kaybedeceğini anlattık. Peki o ne yaptı? Operatörün İHA ile iletişim kurmak için kullandığı iletişim kulesini de yok etti” dedi.

'Yapay zekanın toplumumuzu dönüştürdüğü bir dünyayla yüzleşmeliyiz'

Test sırasında simülasyon dışında gerçek bir insanın zarar görmediğini belirten Hamilton, yapay zekaya çok fazla güvenilmemesi gerektiğini söyleyerek uyarıda bulundu.

"Yapay zekanın toplumumuzu dönüştürdüğü bir dünyayla yüzleşmeliyiz" diyen Hamilton, “Yapay zeka çok kırılgan, yani kandırması veya manipüle etmesi kolay. Bunu daha sağlam hale getirmenin yollarını geliştirmemiz ve yazılımının neden belirli kararlarda ısrarcı olduğunu anlamamız gerekiyor" ifadelerini kullandı.

Konferansa ev sahipliği yapan Kraliyet Havacılık Derneği ve ABD Hava Kuvvetleri'nin İngiliz basınının açıklama taleplerine yanıt vermediği bildirildi.

Yapay zekayı orduya adapte etme çalışmalarını sürdüren ABD, Şubat ayında bir F-16 savaş uçağını kontrol etmek için yapay zekayı kullanmıştı. Gerçekleştirilen testte VISTA X-62A savaş eğitim uçağı yapay zeka kontrolünde 17 saatten fazla uçurulmuştu.