Yapay zeka teknolojisinde sıkça kullanılan temel terimler ve kavramlar

Yapay zeka teknolojilerinin ve bu alandaki tartışmaların hızla evrilmesiyle birlikte, süreci anlamak için kullanılan dili kavramak da zorunlu hale geldi; raporda abliterasyon, AI ajanı, hizalama, AGI, ASI, distilasyon ve jailbreak gibi kritik kavramlar detaylandırıldı.

Abliteration, bir yapay zeka modelinin güvenlik korumalarının ve reddetme mekanizmalarının kaldırılması sürecini ifade ederken, açık ağırlıklı modeller bu duruma karşı savunmasız kalmaktadır. AI ajanları ise web tarayıcıları ve uygulamalar gibi harici araçları kullanarak bir kullanıcının adına birden fazla adımı kullanıcı müdahalesi olmadan tamamlayabilen özerk sistemler olarak öne çıkmaktadır; örneğin Meta'nın Muse adlı ajanı ve OpenAI'ın Dots modeli bu kapsama girmektedir.

Hizalama (alignment), bir yapay zeka modelinin insan amaç ve değerlerine uygun davranmasını sağlama sürecidir ve OpenAI araştırmacılarına göre bu durum yapay zeka araştırmalarındaki temel sorundur. Stanford Üniversitesi ve Nvidia CEO'su Jensen Huang gibi isimlerin tartışma konusu yaptığı yapay zeka genel zekası (AGI) ise bir sistemin insan seviyesinde öğrenme, akıl yürütme ve bilişsel performansa ulaşması olarak tanımlanmaktadır.