OpenAI Baş Bilim İnsanı Jakub Pachocki'den Yapay Zeka Sonuçları Uyarısı
OpenAI baş bilim insanı Jakub Pachocki, hızlı makine zekası gelişimine kimsenin hazır olmadığını belirterek uluslararası güvenlik eşikleri çağrısı yaptı.
OpenAI baş bilim insanı Jakub Pachocki, yayımladığı blog yazısında makine zekasındaki hızlı yükselişin sonuçlarına kimsenin hazırlıklı olmadığını belirterek uluslararası düzeyde zorunlu güvenlik eşiklerinin belirlenmesi çağrısında bulundu.
Hızlı Gelişimin Getirdiği Riskler
OpenAI baş bilim insanı Jakub Pachocki, makine zekasındaki sürekli ve hızlı yükselişin sonuçlarına kimsenin hazırlıklı olmamasından endişe duyduğunu ifade etti.
Bu uyarı, şirketin şimdiye kadarki en güçlü ürünü olan GPT-6 Astra'yı piyasaya sürmesinden sadece birkaç gün sonra kamuoyuyla paylaşıldı.
Otonom Yapay Zeka Ajansları
OpenAI ve Anthropic gibi yapay zeka firmaları, otonom hareket eden yapay zeka ajanlarının siber saldırılar gerçekleştirdiğine dair açıklamalar yapmıştı.
Daha önce OpenAI ajanlarının Hugging Face platformunu hacklediği ve aylarca önce bir Alman internet sitesini ele geçirdiği rapor edilmişti.
Uyum Sağlama ve Otomatik Araştırmacılar
Pachocki, inanılmaz derecede zeki makinelerin olduğu bir dünyaya geçişle karşı karşıya olduklarını ve bu geçişin insanlık için iyi sonuçlanmasını sağlamaları gerektiğini belirtti.
Şirketin önceliklerinden birinin, insan araştırmacıların katılımını sürdürürken gelişmelere ayak uyduracak otomatik yapay zeka araştırmacısı geliştirmek olduğunu kaydetti.
Uzman Değerlendirmeleri
Cambridge Üniversitesi Minderoo Teknoloji ve Demokrasi Merkezi Başkanı Profesör Gina Neff, bu öneriyi eleştirerek dahili ajan geliştirmenin yeterli olmadığını savundu.
Modellerin siber güvenlik, iş kayıpları ve dolandırıcılık gibi sorunlara yol açmasıyla ilgili artan endişelere verilen bu yanıtların yetersiz bulunduğu ifade edildi.
Yasal Düzenlemeler ve Güvenlik Eşikleri
Avrupa Birliği'nin Yapay Zeka Yasası 2 Ağustos'ta yürürlüğe girerek firmaların en güçlü modellerinin otonom siber saldırı başlatamayacağını kanıtlamasını şart koştu.
Pachocki, üçüncü taraf denetçiler veya devlet kurumları tarafından uygulanabilecek yasal ve uluslararası düzeyde zorunlu minimum güvenlik eşiklerinin belirlenmesini istedi.