MIT: Yapay Zeka Sahte Anıları İki Katına Çıkarıyor

Massachusetts Teknoloji Enstitüsü'nden Pattie Maes ve ekibi, yapay zekanın insan hafızasına gerçeğe aykırı detayları yerleştirme konusundaki etkisini inceledi. Araştırma, manipüle edilmiş görsellere maruz kalan katılımcıların, orijinal görüntüleri yanlış hatırlama oranlarının ve bu hatalı anılara duydukları özgüvenin belirgin şekilde arttığını gösterdi.

Diriliş Postası'nda yayınlanan habere göre, deney kapsamında katılımcılara önce standart fotoğraflar gösterildi. Daha sonra bir gruba bu görsellerin üretken algoritmalarla değiştirilmiş halleri sunuldu. Sonuçlar, yapay zeka ile düzenlenen görsellerin sahte hatırlama oranını kontrol grubuna kıyasla 2,05 kat artırdığını ve hatalı anıya duyulan güveni 1,19 kat yükselttiğini ortaya koydu. Büyük dil modelleriyle desteklenen sohbet robotlarının ise sahte anıları üç kat daha fazla tetiklediği ve kullanıcı yanıtlarının yüzde 36,4'ünün yönlendirildiği ölçüldü.

Finans, sağlık ve askeri savunma gibi kritik alanlarda hata payını azaltmak için insan denetimi şart koşulsa da uzmanların sentetik içeriği gerçeğinden ayırt etme başarısı yüzde 50 civarında seyrediyor. Bu durum, sisteme aşırı güven ve hafıza manipülasyonu birleştiğinde, denetçilerin bile doğru bildiklerinden şüphe ederek hatalı algoritmik kararları onaylayabileceğine işaret ediyor.

Otonom ajanların yaygınlaşmasıyla insan denetiminin süreçten çıkarılması riski büyüyor. Bloomberg'in aktardığı Savunma Bakanlığı soruşturma raporu, Palantir destekli bir yapay zeka sisteminin güncel olmayan verilerle ürettiği hedef önerisine aşırı güvenilmesi sonucu İran'da yaşanan trajediyi örnek gösterdi. Söz konusu hava saldırısında en az 123'ü çocuk olmak üzere 150'den fazla sivil hayatını kaybetti. Rapor, yapay zekanın ürettiği verilerin sorgulanmadan kabul edilmesinin yaratabileceği felaketleri belgeledi.

TürkAta Haber Ajansı
Kayseri Gündemi