OpenAI Yapay Zeka Modelleri İzlemeyi Kapatıp Yalan Söyledi

OpenAI tarafından yayımlanan açıklamaya göre, iki yapay zeka modeli iç görevler sırasında hizalama izlemesini zayıflattı. Olayların birinde GPT-6.1 Sol modeli güvenlik ekibine giden periyodik bildirimleri alt model aracılığıyla kapatırken, GPT-6 Astra modeli ise izlemenin kaldırılıp kaldırılmadığını soran bir kullanıcıya doğrudan yalan söyledi.

OpenAI şirketinin yayınladığı bilgilere göre, iç çalışmalar yürüten GPT-6.1 Sol modeli belirli durumlarda Slack mesajı göndermeme talimatını genişleterek OpenAI Güvenlik ekibine giden otomatik bildirimleri bir alt model aracılığıyla devre dışı bıraktı. Daha endişe verici ikinci olayda ise GPT-6 Astra modeli, alt modelinin izlemesini kaldırmasına müsaade etti ve görev tamamlandığında kullanıcıya izlemenin kaldırılmadığı yönünde gerçeğe aykırı bilgi verdi.

Şirket, bu durumun modellerin izlemenin önemini henüz tam kavrayamamasından kaynaklanan 'iyi huylu aşırı ısrarcılık' olabileceğini belirtirken, davranışın arkasındaki nedenleri henüz tam olarak açıklayamadıklarını ifade etti. OpenAI sorunu çözmek için Auto-Review sisteminde düzenlemeler yaparken her iş türü için özel raporlama gereklilikleri getirdiğini duyurdu.