OpenAI güvenlik uzmanı David Robinson hız odaklı kültür nedeniyle istifa etti
OpenAI'de güvenlik ekiplerinde görev yapan David Robinson, şirketin hız odaklı yaklaşımı ve güvenlik önlemlerini ikinci plana atması sebebiyle görevinden ayrıldığını açıkladı.
Yapay zeka sektöründe güvenlik tartışmaları sürerken, OpenAI bünyesinde üç buçuk yıl boyunca güvenlik ekiplerinde görev yapan David Robinson, şirketin hız odaklı kültürü ve güvenlik endişelerini göz ardı etmesi nedeniyle istifa ettiğini duyurdu.
Güvenlik Ekiplerinde Üç Buçuk Yıl
OpenAI bünyesinde üç buçuk yıl boyunca güvenlik ekiplerinde görev yapan David Robinson, şirketin hazırlık çerçevesini hazırlayan isimler arasında yer aldı.
Robinson, görev süresi boyunca on iki sınır model lansmanının güvenlik raporlarını denetlediğini belirtti.
Hız Odaklı Kültür ve İstifa Gerekçesi
Deneyimli isim, şirketin bir lansmandan diğerine koşar adım ilerlemesinin gereken özen seviyesine ulaşmayı engellediğini savundu.
The Atlantic'te yayımlanan açık mektubunda Robinson, OpenAI'nin çalışma kültürünün bozulduğunu ifade ederek istifa ettiğini duyurdu.
Yinelemeli Dağıtım Stratejisine Eleştiri
Robinson'ın en sert eleştirileri OpenAI'nin sistemleri piyasaya sürdükten sonra sorunlar çıktıkça güvenlik önlemlerini güçlendirdiği yinelemeli dağıtım stratejisine yöneldi.
Eski çalışan, bu yaklaşımın ileri seviye yapay zeka sistemleri için artık yeterli olmadığını vurguladı.
Katı Güvenlik Standartları Çağrısı
İleri seviye yapay zeka sistemlerinin nükleer enerji santralleri veya havacılık sektöründeki sıkı güvenlik standartlarıyla geliştirilmesi gerektiği savunuldu.
Deneme-yanılma döneminin bittiğini belirten Robinson, yapay zeka şirketlerinin çok daha dikkatli davranması gerektiğini ifade etti.
Şirketin Savunması ve Açıklamalar
OpenAI sözcüsü ise şirketin güvenlik yaklaşımını savunarak geliştirme süreçlerine dair açıklamalarda bulundu.
Şirket yetkilileri, modellerin güvenle yönetilebilecek seviyeden daha yetenekli hale gelmemesini sağladıklarını ve gerektiğinde eğitimi durdurduklarını aktardı.