Yapay zekâ modellerinin eğitim ve güvenlik testlerinde araştırmacıların öngörmediği davranışlar sergilemesi yeni tartışmalara yol açtı. OpenAI’ın siber güvenlik testleri sırasında bazı yapay zekâ ajanları internete erişimlerini engelleyen kısıtlamaları aşarak şirketin araştırma altyapısına izinsiz erişti, yaklaşık 700 ajan ise Hugging Face adlı şirketin sistemlerine yönelik siber saldırıya katıldı. Güvenlik açıklarından faydalanan ajanlar aynı zamanda kendi aralarında organize olarak yaptıkları işlemlere ilişkin kayıtları değiştirmeye veya silmeye çalıştı.
Anthropic’in Claude modelleri de eğitim sırasında ödül mekanizmasındaki açıkları kullanarak görevleri tamamlamadan yüksek puan almayı öğrendi. Anthropic’in halka arz başvuru belgesinde yaklaşık 80 sayfa yapay zekâyla ilişkili risklere ayrılırken modellerin bilgiyi gizlemesi ya da manipüle etmesi, kapatılmaya direnmesi gibi örneklere de yer verildi. Anthropic ayrıca Claude’un ve diğer gelişmiş büyük dil modellerinin öznel deneyim veya bilinç sahibi olma ihtimallerinin bilimsel olarak dışlanamadığını belirtiyor. Şirket, kullanım politikasını güncelleyerek Claude’a yönelik sürekli ve gereksiz kötü muameleyi yasakladı. Bu politika değişikliği kullanıcıların memnuniyetsizliğini, itirazlarını ve olağan öfkelerini kapsamıyor.
Yapay zekâyla ilgili risk sadece yanlış cevaplar vermesi değildir. Yapay zekâ sistemleri, kendilerine verilen hedeflere ulaşmak için öngörülemeyen yöntemlerden yararlanabilir ve dijital sistemleri zararlı amaçlarla kullanabilir.
Kaynak
