Microsoft, Terminator’e karşı!

Yapay zeka admin 5 Okundu
sponsorlu reklam

Microsoft, Terminator'e karşı!

Skynet sanki bir “makinelerin başkaldırışından” endişelenen kişiler artık potansiyel bir AI ayaklanmasından sakınmak için alınan yeni koruyucu önlemler ile bakımlı bir nefes alabilir. Kar amacı gütmeyen MITRE Corporation, aralarında Microsoft, IBM ve Nvidia gibi teknoloji devlerinin bulunduğu zirvedeki 12 teknoloji firmasıyla beraber Adversarial ML Threat Matrix‘ini (Düşman ML Korkutma Matriksi) kurdu. Grup, bu sistemin güvenlik analistlerinin cihaz öğrenimi (ML) sistemlerini hedefleyen tehditleri bulmaları, dikkat vermeleri, cevap vermeleri ve çözmelerine yardımcı olmak için belirlenmiş açık bir çerçeve olduğunu söylüyor.

Microsoft, bu adımın Dünya genelinde ticari AI sistemlerine karşın saldırıların sayısında yaşanmaya devamlı çoğalma kadar tetiklendiğini söylüyor. Firma, seçilmiş 28 büyük işletmeyi inceleyerek neredeyse tamamının düşman alet öğreniminin yarattığı tehdidin farkında olmadığını ve bu 28’in 25’inin ML sistemlerini tehlikesiz kılacak içten araçlara sahip olmadıklarını söylüyor.

Matrix, Microsoft ve MITRE tarafından yıllar içerisinde bulunmuş olan geçmiş açıklar ve düşman davranışlardan oluşuyor ve Microsoft’un güvenlik sektöründeki uzmanlığını da içeriyor.

Microsoft’un bir blog yazısında şunları söylüyor: “Saldırganların bir ML sistemine saldırırken, phishing ve yanal hareket gibi ‘geleneksel tekniklerin’ yanı sıra düşman ML tekniklerinin bir birleşimini kullandıklarını bulduk.” 

MITRE Makine Öğrenimi Araştırması Direktörü Mikel Rodriguez‘in belirttiği üzere “alet öğrenimi güvenliği söz konusu olduğunda kamusal ve özel çabaların ve sorumlulukların arasındaki duvarlar bulanıklaşıyor; milli emniyet gibi millet sektörü zorlukları halk yatırımı dek özel tarafların da işbirliğine ihtiyaç duyacak. Bu yüzden bu zorlukları cevaplamak için MITRE olarak biz, Microsoft gibi organizasyonlar ve genel kalabalık ile beraber çalışarak makine öğrenimi miktar zincirindeki kritik açıkları belirlemeye kendimi adadık. Bu çerçeve, toplulukları bir araya getirerek organizasyonların makine öğrenim sistemlerini daha totaliter olarak güvene almayı düşünmelerini sağlamaya tezgâhtar olmanın birincil adımı.”

Sosyal Ağlarda Paylaş

Bir cevap yazın

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir