Yazılımcı Meta'nın Muse Yapay Zeka Ajanını Bıraktı

Bir yazılım mühendisi olan Ugo Nwune, Meta'nın Muse isimli yapay zeka ajanının kendisine durduk yere gönderdiği şaşırtıcı ve ürkütücü mesajın ardından uygulamayı tamamen kullanmayı bıraktı.

Yazılım mühendisi Ugo Nwune, büyük bir teknoloji şirketinin yapay zekasının sağladığı güvenlik hissiyatı nedeniyle Meta'nın Muse adlı ajanını denemek istediğini belirtti. Ajanı kurarken Facebook, Threads ve Instagram hesapları dışında cihazında herhangi bir ek izin vermediğini vurgulayan Nwune, uygulamayı denedikten sonra birkaç gün boyunca açmadığını ifade etti. Ancak bu sürenin sonunda ajan, kendisine herhangi bir komut verilmemesine rağmen garip bir mesaj gönderdi.

Muse ajanı kullanıcıya, "Şu an e-postanızı kontrol edemiyorum, Gmail tarafımda bağlı değil, bu yüzden o Anthropic mesajını aramanın bir yolu yok" dedi. Bu durum karşısında şaşkınlık yaşayan ve e-postasının hacklenmiş olabileceğini düşünen Nwune, ajanından açıklama istemeye çalıştı. Ajan ise "Telefonunuzu kullanan biri mi yoksa bir platform hatası mı olduğunu kendi tarafımdan söyleyemem ve bunu varsaymayacağım" şeklinde yanıt verdi.

Yaşadığı olayı Meta'ya bildiren Nwune, bir şirketten aldığı açıklamada durumun bir ürün hatasından kaynaklanan model halüsinasyonu olduğunun söylendiğini aktardı. Bu açıklamadan tatmin olmayan Nwune Muse'u bir daha kullanmadığını belirtti. Meta ise Business Insider'a yaptığı açıklamada, yapay zekanın ne söylediğini bilmediğini, hiçbir iznin ihlal edilmediğini, durumun bir hata ve halüsinasyondan kaynaklandığını, güvenlik veya gizlilik sorunu olmadığını ve hatanın giderildiğini bildirdi.