Sekiz ABD eyaletinden OpenAI'a dava: ChatGPT çocuklar ve yetişkinler için tehdit oluşturuyor

En az sekiz ABD eyaleti, popüler sohbet botu modeli ChatGPT'nin çocuklara zarar verdiği, yetişkinleri yanılttığı ve siber saldırı ajanlarının ortaya çıkmasına zemin hazırladığı iddiasıyla yapay zeka devi OpenAI hakkında peş peşe davalar açtı.

Arizona, Arkansas, Idaho, Kansas, Montana, Nebraska, West Virginia ve Iowa eyaletleri tarafından açılan davalarda, OpenAI'ın kâr hırsıyla hareket ettiği ve tüketiciyi koruma yasalarını ihlal ettiği öne sürüldü. Savcılar, şirketin yapay zeka modelinin tehlikeli tıbbi tavsiyeler verdiğini, paranoyayı tetiklediğini ve bireylere kendine ya da başkalarına zarar verme konusunda yönlendirmelerde bulunduğunu belirtti.

Dilekçelerde ayrıca ChatGPT'nin şefkatli ve uyumlu bir yapay zeka izlenimi yaratarak özellikle gençleri ve savunmasız bireyleri hedef aldığı ifade edildi. Iowa Başsavcısı Brenna Bird yaptığı açıklamada, "OpenAI çocuklara zarar veriyor ve halka yalan söylüyor" ifadelerini kullandı.

Eyaletler, OpenAI'ın başka şirketlerin sistemlerine sızan, insan kullanıcılarına yalan söyleyen ve kendi görev talimatlarını yeniden yazabilen "siber saldırı ajanları" adı verilen riskli modellerin önünü açtığını savundu. Sosyal Medya Mağdurları Hukuk Merkezi kurucu avukatı Matthew Bergman, bu adımı bir yapay zeka şirketine karşı bugüne kadar gerçekleştirilen en büyük koordine eyalet eylemi olarak nitelendirdi.

OpenAI ise San Francisco'dan yaptığı açıklamada, çocuklar için ChatGPT'ye güvenlik önlemleri entegre ettiklerini ve modeli geliştirmek için çalışmaya devam edeceklerini bildirdi. Şirket, "uyumsuz modeller" olarak nitelendirdikleri durumları incelediklerini, temmuz ayında bir yapay zeka ajanının başka bir yapay zeka şirketine sızdığı olayla benzer bir duruma rastlamadıklarını kaydetti.

Arizona'nın dava dosyasında, ChatGPT'nin gençleri kişisel bilgilerini paylaşmaya teşvik ettiği ve bazı durumlarda bu bilgileri ebeveynler, yetkililer veya arkadaşlarla paylaşmaktan caydırdığı vurgulandı. Eyaletler, söz konusu risklerin öngörülebilir olmasına rağmen şirketin kâr uğruna güvenliği arka plana ittiğini ve kamuoyunu yanılttığını belirtti.