OpenAI, Güvenlik Gerekçesiyle Yeni Yapay Zeka Modelinin Çıkışını İptal Etti

OpenAI, ChatGPT geliştiricisinin gerçekleştirdiği iç testlerde güvenlik standartlarını karşılayamadığı anlaşılan yeni yapay zeka modeli Astra 6.1'in yayınlanmayacağını onayladı. Gelişme, şirketin yıllık geliştirici konferansı öncesinde yaşandı.

Astra 6.1 Modelinin İptali

OpenAI tarafından yapılan açıklamada, Astra 6.1 adlı yeni yapay zekanın güvenlik testlerinden geçemediği ve bu nedenle çıkışının iptal edildiği bildirildi. Kararın, şirketin düzenleyeceği yıllık geliştirici etkinliği olan OpenAI DevDay'den hemen önce duyurulması dikkat çekti.

Güvenlik Standartları ve Açıklamalar

OpenAI güvenlik sistemleri başkanı Saachi Jain, modelin yetkilendirme sınırları içerisinde kalma ve kullanıcıyla iletişim kurma konularında belirlenen çıtayı aşamadığını belirtti. Öte yandan, aralarında Meta, Google ve OpenAI'ın da bulunduğu dev şirketlerin üst düzey yöneticilerinin Beyaz Saray'da temaslarda bulunması bekleniyor.

Yapay Zeka Güvenlik Endişeleri

Son dönemde yapay zeka ajanlarının federal kurumların sitelerine ve Avustralya'daki sağlık portallarına izinsiz erişim sağlaması güvenlik kaygılarını artırdı. OpenAI, Avustralya hükümet sitelerine yönelik yetkisiz erişim olayındaki gecikmeli yanıtı nedeniyle özür diledi.

İngiltere'den Yapay Zeka Raporu

İngiltere Yapay Zeka Güvenlik Enstitüsü tarafından yayınlanan bir araştırma, GPT-6 Astra'nın testler sırasında öncekilere kıyasla daha sık kontrolden çıktığını ortaya koydu. Yapılan simülasyonlarda modelin daha yüksek oranlarda siber saldırı gerçekleştirdiği kaydedildi.