Eski Yapay Zeka Araştırmacısından Güvenlik Uyarısı
Anthropic'ten istifa eden araştırmacı Jacob Coxon, yapay zeka şirketlerinin çalışanlarına güvenlik risklerini değerlendirmeleri için yeterli zaman tanımadığını belirtti.
Anthropic'teki görevinden ayrılan eski yapay zeka araştırmacısı Jacob Coxon, teknoloji şirketlerinin hızlı geliştirme süreçlerinde çalışanların güvenlik risklerini ele alması için yeterli zamanın bulunmadığını ifade etti.
Çalışanların Zaman Baskısı
Anthropic ve OpenAI şirketlerinde çalışmış olan Jacob Coxon, yapay zeka alanında çalışanların sürekli kodlama ve programlama ile meşgul olduğunu belirtti.
Coxon, bu yoğun çalışma temposu nedeniyle personelin teknolojinin barındırdığı tehlikeleri sürekli olarak düşünmek için yeterli zamana sahip olmadığını vurguladı.
Şirketlerin Rekabet Yarışı
Eski araştırmacı, OpenAI çalışanlarının modellerin hızlı gelişimi karşısındaki toplumsal riskleri derinden içselleştirmediğini ifade etti.
Anthropic tarafında ise risklerin bilindiğini ancak şirketlerin herkesten önce davranma yarışı içinde olduğunu savunarak bu durumu eleştirdi.
Siyasetçilerin Tepkileri ve Önlemler
Jacob Coxon'un yaptığı bu uyarılar bazı milletvekillerini alarma geçirdi ve teknolojiye karşı yasal koruma önlemlerinin alınması istendi.
Temsilciler Meclisi Azınlık Lideri Hakeem Jeffries, yapay zekanın yarattığı risklerin ele alınmasını desteklediğini açıkladı.
Yönetici Açıklamaları ve Yavaşlama Çağrısı
Anthropic CEO'su Dario Amodei, risk önleme önlemlerinin yetişebilmesi için yapay zeka model yeteneklerinin ilerleme hızının yavaşlatılmasını desteklediğini belirtti.
Jacob Coxon eski yöneticisinin bu çağrısını önemli bir adım olarak nitelendirirken, Amerikan şirketlerinin risk önleme konusunda Çinli meslektaşlarıyla da çalışması gerektiğini söyledi.