Microsoft'tan Hümanist Yapay Zeka Davranış Kuralları Taslağı
Teknoloji devi, modellerin insan gözetiminde kalmasını ve zararlı içerikler üretmemesini amaçlayan yeni kuralları kamuoyu görüşüne açtı.
Microsoft, yapay zeka modellerinin güvenli biçimde insan kontrolü altında kalmasını hedefleyen Hümanist Yapay Zeka Davranış Kuralları taslağını yayımlayarak altı hafta süreyle kamuoyundan görüş toplamaya başladı.
Taslak Kuralların Kapsamı
Microsoft tarafından yayımlanan Hümanist Yapay Zeka Davranış Kuralları taslağı, modellerin insan kontrolünü aşmamasını ve anlamlı bir gözetim altında çalışmasını öngörüyor.
Yasaklanan İçerikler ve Talepler
Yeni taslağa göre yapay zeka modellerinin silah üretimine ilişkin taleplere yardımcı olmaması, tehlikeli maddelerin temin edilmesini kolaylaştırmaması ve şiddet ile cinsel açıdan açık içerikler üretmemesi hedefleniyor.
Görüş Süreci ve Takvim
Microsoft, kamuoyuyla paylaştığı taslakla ilgili olarak altı hafta boyunca görüş alacak ve yıl sonunda yapacağı revizyonun ardından bu kuralları 2027'den itibaren modellerin geliştirilmesinde rehber olarak kullanacak.
Sektördeki Güvenlik Çağrıları
Microsoft'un bu adımı, ABD'li yapay zeka şirketleri Anthropic'in Üst Yöneticisi Dario Amodei ile OpenAI Üst Yöneticisi Sam Altman'ın güvenliği sağlamak amacıyla geliştirme hızının yavaşlatılması yönündeki çağrılarının ardından geldi.
Eski Çalışanın Uyarıları
Eski bir Anthropic çalışanı olan Jacob Coxon, yapay zekanın 2030 yılına kadar insanlığın yok olmasına yol açabileceği uyarısında bulunarak şirketlerin bu tehditleri yanlış yönettiğini belirtti ve görevinden ayrıldı.
Yöneticilerin Değerlendirmeleri
Anthropic Üst Yöneticisi Dario Amodei, eski çalışanın görüşleriyle birçok konuda aynı fikirde olduğunu ifade ederken teknolojinin güvenli şekilde geliştirilebileceğine inandığını ve kötümser olmadığını kaydetti.