Google çalışanları, Pentagon ile yapay zeka alanında işbirliğinin reddedilmesi çağrısı yaptı

Google’ın yapay zeka sistemleri üzerine çalışan yüzlerce kişi, ana şirket Alphabet’in Üst Yöneticisi (CEO) Sundar Pichai’ye gönderdikleri mektupta yapay zekanın yanlış kullanımına ilişkin endişelerini gerekçe göstererek ABD Savunma Bakanlığı (Pentagon) ile işbirliğinin reddedilmesi çağrısında bulundu.

ABD basınındaki haberlere göre, Google DeepMind ve Google Cloud gibi yapay zeka alanında çalışan 600’den fazla kişi, Pentagon ile süren yapay zekada işbirliği konulu görüşmelere ilişkin Pichai’ye açık mektup gönderdi.

Mektupta, Pentagon ile devam eden görüşmelerden endişe duyulduğuna işaret edilerek, yapay zeka sistemlerinin hata yapabildiği belirtildi.

Çalışanların, bu teknolojinin etik dışı ve tehlikeli kullanımının önlenmesi için sorumluluk duyduğu vurgulanan mektupta, şunlar kaydedildi:

“Bu nedenle sizden yapay zeka sistemlerimizin gizli çalışmalar için erişilebilir hale getirilmesini reddetmenizi talep ediyoruz. Yapay zekanın insanlığa faydalı olduğunu görmek istiyoruz, insanlık dışı veya son derece zararlı şekilde kullanıldığını görmek istemiyoruz.”

Mektupta, bu zararlı kullanımlara “ölümcül otonom silahlar ve toplu gözetim” örnek verilerek bu işbirliğinin reddedilmemesi halinde Google’ın bilgisi dışında olacak zararlı kullanımları durduramayabileceği belirtildi.

Bu konuda “yanlış karar vermenin Google’ın itibarına, dünyadaki rolüne ve işine geri dönülemez zarar verebileceği” ifade edilen mektupta, geliştirilmesinde rol oynadıkları teknolojinin yanlış kullanımı nedeniyle dünyada çok sayıda can kaybı olduğuna dikkati çekildi.

– Hükümet ile Anthropic arasındaki gerilim

Yapay zeka firması Anthropic’in, Claude modelini “tüm yasal askeri amaçlar” için kullanıma açmayı reddetmesi ve askeri kullanıma dair güvenlik endişeleri, Pentagon ile anlaşmazlıklara yol açmıştı.

ABD Savunma Bakanı Pete Hegseth, 24 Şubat’ta Anthropic’e ültimatom vermiş, Pentagon’un şirketin yapay zekasını istediği şekilde kullanmasına 27 Şubat’a kadar izin vermedikleri takdirde hükümetle sözleşmelerini kaybetme riskinin bulunduğunu söylemişti.

ABD Başkanı Donald Trump da 27 Şubat’ta Pentagon ile Anthropic arasında yaşanan tartışmaların ardından tüm federal kurumlara Anthropic teknolojisinin kullanımının derhal durdurulması talimatı vermişti.

Ardından Pentagon, 6 Mart’ta teknolojisinin ABD vatandaşlarının gözetlenmesinde ve tam otonom silahlarda kullanılmasını kabul edemeyeceğini açıklayan firmayı “tedarik güvenliği açısından riskli” ilan etmişti.

Anthropic, 9 Mart’ta ABD hükümetine karşı iki dava açarak, Pentagon yetkililerinin yapay zeka güvenliği konusundaki tutumundan dolayı şirkete yasa dışı şekilde misilleme yaptığını iddia etmişti.

OpenAI ve Google çalışanlarının imzaladığı açık mektupta ise Pentagon’un Anthropic’e baskı yaptığı belirtilerek duruma tepki gösterilmişti.