Microsoft Yöneticisi Satya Nadella'dan Yapay Zeka İçin Acil Fren Çağrısı
Teknoloji dünyasında yapay zeka güvenliği tartışmaları sürerken, modellerin en baştan ele geçirilmiş kabul edilmesi ve müdahale mekanizmaları kurulması gerektiği belirtildi.
Microsoft Üst Yöneticisi Satya Nadella, yapay zeka modellerinin kara kutu olarak görülmemesi gerektiğini belirterek, sistemlerin en baştan ele geçirilmiş kabul edilmesini ve görev sırasında durdurulmasını sağlayacak acil durum freni sistemini savundu.
Yapay Zeka Güvenliğinde Yeni Yaklaşım
Microsoft Üst Yöneticisi Satya Nadella, sosyal medya platformu X üzerinden yaptığı kapsamlı paylaşımda yapay zekanın güven mimarisinin yeniden ele alınması gerektiğini vurguladı.
Kara Kutu Mantığına Eleştiri
Gelişmiş yapay zeka modellerinin öneri ve eylemlerinin doğrudan kabul edildiği ya da reddedildiği iç içe geçmiş kara kutular olarak ele alınamayacağı ifade edildi.
Ele Geçirilmiş Varsayımı ve Acil Fren
Sistemlerin başlangıçtan itibaren tehlikede olduğu varsayımıyla çalışması gerektiği, bu kapsamda yetkili kişilerin modeli görev anında durdurabileceği acil durum freni mekanizmalarının şart olduğu bildirildi.
Modelin Kontrol Mekanizmalarından Ayrılması
Modellerin işlerini koordine eden düzeneklerden ayrı tutulması, denetimlerin dışlaştırılması ve gerçekleştirilen her anlamlı eylemin insan tarafından okunabilir kanıtlarla belgelenmesi talep edildi.