Yapay zeka halüsinasyon görebiliyor
Yapay zekanın halüsinasyon görmesi özellikle sürücüsüz otomobil gibi teknolojilerde büyük tehlike teşkil ediyor.
Yaşamın her alanına girmeye başlayan yapay zeka teknolojisinde büyük ve giderilmesi zor bir sorun ortaya çıktı. Bir grup araştırmacının imaj, ses ve metinlerde yaptığı oldukça küçük değişiklikler yapay zekanın aslında var olmayan şeyleri görmesine, algılamasına yol açtı.
The Wire'da yer alan habere göre yapay zekanın halüsinasyon görebildiğini ortaya çıkaran çalışma MIT öğrencisi Anish Athalye ve ABD'nin saygın üniversitelerinden biri olan Berkeley'den Nicholas Carlini ve David Wagner tarafından yapıldı. Proje, Google, Amazon gibi dev şirketlerin yanı sıra pek çok önemli kurum ve kuruluşun kullandıkları yapay zeka teknolojilerinin halüsinasyon yoluyla kolayca sabote edilebileceklerini ortaya koydu.
KAYAK YAPAN İKİ KİŞİYİ KÖPEK OLARAK ALGILADI
Proje kapsamında üzerinde çok ince bir oynama yapılan kayak yapan iki kişinin görüldüğü bu fotoğraf, insanlar tarafından kolaylıkla algılanabilirken Google'ın Cloud Vision servisi yüzde 91 oranında bir kesinlikle fotoğrafta bir köpek gördüğünü belirtti.
Çalışmada benzer türde değişiklikler 'Dur' işaretinin görünmez hale gelmesine ya da seslerin söylenenlerden tamamen farklı algılanmasına yol açtı.
Yapay zekadaki bu zaafın özellikle sürücüsüz otomobil gibi sistemlerde büyük tehlike teşkil ettiği belirtiliyor. Kişilerin banka ya da kredi kartlarını kullandıkları sesli yanıt sistemleri de halüsinasyon yoluyla sabotaja maruz kalabilir.
Sitemiz yayınlanan köşe yazısı/haberin tüm haklarının sahibidir. Kaynak gösterilse dahi köşe yazısı/haberin tamamı özel izin alınmadan kullanılamaz. Ancak alıntılanan köşe yazısı/haberin bir bölümü, alıntılanan habere aktif link verilerek kullanılabilir.
İlgili Haberler
- Antik papirüsteki ilk kelime yapay zeka ile deşifre edildi
- Yapay zeka ile beyin ameliyatları 2 yıl içinde yapılabilir
- "Yarının yapay zekasına hazırlanmamız gerekiyor"
- "Yapay zekayla pandemi başlatılabilir"
- Erkek kısırlığının tedavisinde yapay zeka denklemi
- Yapay zeka, "Tayvan'ın istilası olası" dedi
- "Yapay zekayla üretilen sanatın telif hakkı olamaz"
- AP'den yapay zekayla ilgili kılavuz
- "Yapay zeka sosyal medyanın içerik denetimini hızlandırabilir"
- Yapay zekanın yemek listesinde ölümcül zehir bulundu