Yapay Zeka Standartları İçin Ödeme Sektörünün Modeli Örnek Alınabilir
Anthropic, Google ve OpenAI gibi yapay zeka öncülerinin ortak güvenlik standartları kurma çabalarında, ödeme sektöründeki test altyapılarından öğrenebileceği önemli dersler bulunuyor.
Anthropic, Google ve OpenAI gibi yapay zeka öncülerinin ortak güvenlik standartları ve bağımsız denetimler için bir endüstri standartları kurumu oluşturma çabalarında, ödeme sektöründeki FIDO Alliance ve EMVCo gibi standartlaştırma altyapılarından ilham alabileceği belirtiliyor.
Yapay Zekada Ortak Standart Arayışı
Anthropic, Google ve OpenAI gibi öncü yapay zeka şirketleri, güçlü modellerin ortak güvenlik standartlarına ihtiyaç duyduğu konusunda fikir birliği içinde bulunuyor.
Bu ortaklığa ulaşmak, testleri kimin yazacağını, kimin yöneteceğini ve bir modelin başarısız olması için hangi kriterleri karşılaması gerektiğini belirleyen kuralların konulmasını gerektiriyor.
Ödeme Sektörünün Tecrübeleri
Ödeme sektörü, yıllar süren inisiyatifler sayesinde standartlaştırma süreçleri konusunda geniş bir deneyime ve altyapıya sahip durumdadır.
FIDO Alliance ve EMVCo gibi kuruluşlar, uzun süredir yürüttükleri ortak spesifikasyon çalışmalarını günümüzde yapay zeka ajanlarını da kapsayacak şekilde genişletiyor.
EMVCo ve Teknik Gereksinimler
EMVCo, ödeme sistemlerinin belirli parçaları için teknik özellikler yazmakta ve uygulamaların bu standartları karşılayıp karşılamadığını belirleyen süreçler kurmaktadır.
Örneğin, temassız ödemeler için geliştirilen ortak çekirdek spesifikasyonu; güvenli iletişim kanalları, şifreleme ve biyometrik doğrulama gibi işlevleri kapsamaktadır.
FIDO Alliance ve Yetki Devri
FIDO Alliance, şifresiz kimlik doğrulama standartları oluşturmuş olup, şu anda kullanıcıların eylemleri yapay zeka ajanlarına nasıl güvenli bir şekilde devredebileceğine dair spesifikasyonlar geliştiriyor.
Bu deneyim, yapay zeka alanında test ve denetim yapacak bir endüstri standartları kurumu oluşturmayı tartısan şirketler için yararlı bir referans noktası sunuyor.
Test Süreçlerinin Modellenmesi
Ödeme sektöründeki sıra, yapay zeka için de yol gösterici niteliktedir: önce gereksinimin tanımlanması, nasıl çalıştığının belirtilmesi ve uygulamanın buna karşı nasıl test edileceğinin kurulması gerekiyor.
Bir endüstri kuruluşunun, değerlendirmek istediği bireysel yetenekleri belirlemesi ve bunları ölçmek için ortak yöntemler oluşturması büyük önem taşıyor.
Gelecek İçin Sektörel Koordinasyon
OpenAI CEO'su Sam Altman endüstri test ve denetim kuruluşunu desteklerken, Anthropic CEO'su Dario Amodei bağımsız değerlendirme ve daha fazla koordinasyon çağrısında bulundu.
Google DeepMind CEO'su Demis Hassabis ise sınır modellerinin piyasaya sürülmeden önce tehlikeli yetenekler, siber güvenlik riskleri ve güvenlik önlemlerini aşma becerileri açısından test edilmesini önerdi.