Üretken Yapay Zeka Robotlarının Güvenliğini Test Eden Safeworld Kuruldu
Üretken yapay zeka tabanlı robotların güvenliğini artırmak amacıyla kurulan Safeworld, Shine Capital ve a16z Speedrun liderliğinde 12 milyon doların üzerinde yatırım aldı.
Üretken yapay zekanın robot teknolojilerinde kullanımının yaygınlaşmasıyla birlikte güvenlik sorunlarına çözüm bulmak amacıyla Safeworld adlı girişim kuruldu. Şirket, gerçekçi insan modelleri içeren simülasyonlarla robot kontrol sistemlerini değerlendiriyor.
Üretken Yapay Zeka ve Robot Güvenliği
Robot teknolojilerindeki en büyük eğilimlerden biri, kontrolün üretken yapay zeka modellerine devredilmesidir. Ancak bu mimari, geleneksel algoritmalar gibi öngörülebilir değildir ve insan güvenliği konusunda soru işaretleri yaratmaktadır.
Safeworld Şirketinin Kuruluşu
Carnegie Mellon Üniversitesi Safe AI laboratuvarını yöneten Dr. Ding Zhao, kıdemli girişim yöneticisi Kyle Wong ve makine öğrenimi mühendisi Simo Rachidi, bu sorunu çözmek için güçlerini birleştirerek Safeworld şirketini kurmuştur.
Yatırım Turu ve Destekçiler
Safeworld, gizlilik sürecini sonlandırarak Shine Capital ve a16z Speedrun liderliğinde 12 milyon dolardan fazla tohum yatırımı aldığını duyurmuştur. Yatırım turuna Box Group, Carnegie Mellon University Endowment, Innovation Endeavors ve SV Angel da katılmıştır.
Simülasyon Tabanlı Değerlendirme Yöntemi
Şirketin temel uzmanlık alanı, robot kontrol sistemlerini gerçekçi insan modelleriyle doldurulan simülasyonlar aracılığıyla değerlendirmektir. Genesis veya MuJoCo gibi modellerde dijital mekanlar inşa edilerek binlerce senaryo test edilmektedir.
Sektörel İş Birlikleri
Safeworld ile iş birliği yapan Gritt Robotics CTO'su Vishal Dugar, çalışma sahalarındaki insan çeşitliliği nedeniyle robot güvenliğini matematiksel olarak kanıtlamanın zorluğuna dikkat çekerek deneysel doğrulamanın şart olduğunu belirtmiştir.