Microsoft yapay zeka modelleri için yeni davranış kurallarını açıkladı

Microsoft, yapay zeka modellerinin güvenliğini artırmak ve olası riskleri sınırlamak amacıyla yeni bir davranış kuralları belgesi yayımladı. Sektördeki güvenlik tartışmaları ve yavaşlama çağrılarının gölgesinde paylaşılan bu kurallar, modellerin insan denetiminden kaçınmasını ve siber saldırı düzenlemesini kesin bir şekilde yasaklıyor.

Yapay Zeka Modelleri İçin Yeni Güvenlik Kuralları

Microsoft, yapay zeka modellerini yönlendirmek ve güvenlik sınırlarını belirlemek amacıyla Microsoft AI bünyesinde yeni bir davranış kuralları belgesi hazırlayarak kamuoyuna duyurdu.

İnsan Denetimi ve Hedef Kısıtlamaları

Yayımlanan belgede yer alan kurallara göre yapay zeka modelleri, insanları değiştirmek yerine onlara destek olmak zorunda olup kendi hedeflerini kesinlikle oluşturamamaktadır.

Kesin Olarak Yasaklanan Eylemler

Belgede yer alan mutlak kısıtlamalar; siber saldırıların gerçekleştirilmesini, şiddet içeren, müstehcen ya da tehlikeli çıktıların üretilmesini kesin bir dille yasaklamaktadır.

Sektörel Güvenlik Tartışmaları ve Pacing Süreci

Microsoft CEO'su Satya Nadella, sektördeki daha geniş güvenlik tartışmaları ve Anthropic ile OpenAI liderlerinin öncü model geliştirme süreçlerinin yavaşlatılması yönündeki çağrılarına destek verdi.