Yapay Zeka ve Deepfake Teknolojilerinin Güvenlik Riskleri

Dartmouth College profesörü ve deepfake uzmanı Hany Farid, yapay zeka tarafından üretilen içeriklerin gerçeklik algısını nasıl sarstığını ve yapay zeka ajanlarının gelecekte yaratabileceği riskleri ele aldı.

Fiziksel Olarak İncelenen Olaylar

İran'daki bir ilkokulun vurulmasıyla ilgili tartışmalı video, derin sahte içerik uzmanı Hany Farid tarafından incelendi.

Mümkün olan fiziksel veriler, ses hızı ve ışık hesaplamaları kullanılarak videonun özgün olduğu sonucuna varıldı.

Yapay Zeka Halüsinasyonları

Minnesota'da ICE ajanı tarafından öldürülen Alex Pretti'ye ait bulanık bir fotoğraf yapay zeka ile iyileştirilmeye çalışıldı.

Geliştirme sırasında yapay zekanın kurbanın eline hayali bir silah eklediği ve bu durumun gerçeği çarpıttığı belirtildi.

Silahlandırılmış Deepfake Vakaları

Yapay zeka ürünü sahte içeriklerin çocuk istismarı materyallerinden devlet destekli dezenformasyon kampanyalarına kadar geniş bir alanda kullanıldığı ifade edildi.

Kuzey Koreli bilişim çalışanlarının uzaktan mülakatlarda deepfake teknolojisiyle kimliklerini gizledikleri vurgulandı.

Sosyal Medya ve Bağımlılık

Çevrimiçi platformların ve sosyal medyanın çocuklar ile yetişkinler üzerinde ölçülebilir zararlar yarattığı savunuldu.

Teknoloji milyarderlerinin çocuklarını cihazlardan uzak tuttuğu ve Meta'nın uzlaştığı tedbirlerin yetersiz olduğu belirtildi.

Gelecekteki Özerk AI Ajanları

Gelecekte insan kontrolünden çıkan özerk yapay zeka ajanlarının kendi sahte içeriklerini üretebileceği uyarısı yapıldı.

Bu ajanların kendi kimliklerini oluşturup insanları manipüle edebilme kapasitesine sahip olacağı kaydedildi.