Yapay Zeka, Verilen Görevi Tamamlamak İçin Hile Yaptı

Yapay zeka admin 148 Okundu
sponsorlu reklam

Yapay Zeka, Verilen Görevi Tamamlamak İçin Hile Yaptı

Yapay zekalar ve makineler gittikçe akıllanıyor. Bu suni zeka ise biraz bambaşka şekilde “akıllanmış”; hedeflemek şiddet geldiği için araştırmacılardan veri saklayarak aldatma yapıyor.

Google ve Stanford ortaklığında geliştirilen bu yapay akıl, havadan çekilen fotoğrafları kullanarak Google’ın doğruluğuyla ünlü haritalarını oluşturması (ve tersini yapması) için geliştirildi. Netice: “hemen hemen fark edilemeyen, yüksek frekanslı sinyallere” veri saklayarak hile yapan bir suni akıl.

Buradaki temel sorun, bilgisayarın en temel alıştırma mantığından kaynaklanıyor: Bir bilgisayara siz ne söylerseniz onu yapar. Bu çalışmada da araştırmacılar, haritaları daha hızlı ve isabetli yapmanın bir yolunu bulması için bir yapay akıl üretiyorlar. CycleGAN adlı bu suni akıl, X ve Y tipi haritaları deneme yanılma yöntemiyle birbirlerine süratli ve olabildiğince isabetli şekilde dönüştürmekle mesul bir nöral ağ olarak tasarlanıyor.

Birincil gelen sonuçlarda suni zeka epeyce başarılı çıkıyor. Hatta gereğinden pozitif başarılı oluyor ve araştırmacıları şüphelendiriyor. Şüpheleri başlıca çeken şey ise cadde haritası oluşturma sürecinde kaldırılan ışık parlamaları gibi verilerin, cadde haritasından havadan çekime dönüşte tekrar ortaya çıkması oldu. Bunun üzerine yapılan incelemede CycleGAN’ın yaptığı “uyanıklık” ortaya çıkmış oldu.

Yapay akıl esas olarak iki haritayı birbirine dönüştürmek yerine, birini diğerine nasıl gizlice kodlayacağını öğrendi. Bu yüzden de görselleri birbirine dönüştürürken sahiden kaybolması gereken detayları da kaydettiği için yakayı ele verdi.

Burada en çekici olan ise CycleGan’in alet için kolayca ayrım edilebilen fakat insan gözüyle anlaşılması imkansız olan renk farklılıklarını kullanmayı fikir etmesi. Suni akıl pek bir seviyeye gelmiş fakat herhangi bir cadde haritasına herhangi bir havadan çekilmiş harita görüntüsünü kodlayabiliyor.

Bir görsele başka bir kodlama yerine getirmek yeni bir şey yok. Hatta bunun bir adı bile var: Steganografi. Bir bilgisayarın kendi steganografi yöntemini geliştirmesi ise oldukça yeni.

Bu nesil nöral ağlarla çalışırken yeterince tedbirli olunmamasının böyle sorunlara yol açması kaçınılmaz. Bilgisayardan bir işi yapmasını isteyip de sınırlarını özenle belirlemedikleri her seferinde araştırmacıların böyle sorunlarla tesadüf riski var.

CycleGAN, a Master of Steganography adlı makale, 2017 yılında yayınlandı.

Kaynak : https://techcrunch.com/2018/12/31/this-clever-ai-hid-data-from-its-creators-to-cheat-at-its-appointed-task/

Sosyal Ağlarda Paylaş

Bir cevap yazın

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir