indirBak ,Teknoloji ve Yazılım Tanıtımı

Yapay Zeka Artık Ne Zaman Güvenilir Olamayacağını Bilecek Kadar Akıllı

Skynet muhtemelen tüm ABD nükleer cephaneliğinin anahtarlarını elinde tutacak kadar sorumlu olmadığına karar verseydi Terminatör nasıl oynayabilirdi? Görünüşe göre bilim adamları, ne zaman güvenilmez olduklarını bilen sinir ağları oluşturarak bizi gelecekte yapay zeka önderliğindeki böyle bir kıyametten kurtarmış olabilirler.

Bu derin öğrenme sinir ağları, birbirleriyle dengede olan çok sayıda faktörü tartarak, insanların analiz etme kapasitesine sahip olmadığı veri yığınlarındaki kalıpları tespit ederek insan beynini taklit etmek için tasarlandı.

Skynet hala biraz uzak olsa da, yapay zeka, otonom sürüş ve tıbbi teşhis gibi insan hayatını etkileyen alanlarda kararlar veriyor ve bu, mümkün olduğunca doğru olmalarının hayati olduğu anlamına geliyor. Bu amaca yardımcı olmak için, bu yeni oluşturulan sinir ağı sistemi, güven düzeyinin yanı sıra tahminlerini de üretebilir.

MIT Bilgisayar Bilimi ve Yapay Zeka Laboratuvarı’ndan (CSAIL) bilgisayar bilimcisi Alexander Amini, “Yalnızca yüksek performanslı modellere sahip olma yeteneğine değil, aynı zamanda bu modellere ne zaman güvenemeyeceğimizi anlama yeteneğine de ihtiyacımız var” diyor.

Bu güvenilirlik özbilincine Derin Kanıt Gerilemesi adı verilmiştir ve puanlamasını birlikte çalışması gereken mevcut verilerin kalitesine dayandırır – eğitim verileri ne kadar doğru ve kapsamlı olursa, gelecekteki tahminler o kadar olasıdır. çalışacaklar.

Araştırma ekibi, sinir ağının tahminlerinden daha az emin olması durumunda, bir kavşaktan ilerleyip ilerlemeyeceğine veya bekleyip beklemeyeceğine dair farklı kesinlik seviyelerine sahip sürücüsüz bir otomobille karşılaştırıyor. Güven derecesi, derecelendirmeyi yükseltmek için ipuçları bile içerir (örneğin, ağı veya giriş verilerini değiştirerek).

Benzer güvenlik önlemleri daha önce sinir ağlarına yerleştirilmiş olsa da, bunu diğerlerinden ayıran şey, aşırı hesaplama talepleri olmadan çalışma hızıdır – birkaç yerine ağ üzerinden tek bir çalıştırmada tamamlanabilir, bir güven seviyesi elde edilir. bir kararla aynı zamanda.

Bilgisayar bilimcisi Daniela Rus, “Bu fikir önemli ve geniş anlamda uygulanabilir” diyor. “Öğrenilen modellere dayanan ürünleri değerlendirmek için kullanılabilir. Öğrenilen bir modelin belirsizliğini tahmin ederek, modelden ne kadar hata bekleyeceğimizi ve hangi eksik verilerin modeli iyileştirebileceğini de öğreniyoruz.”

Araştırmacılar yeni sistemlerini, tıpkı sürücüsüz bir arabanın mesafeyi belirleyebileceği gibi, bir görüntünün farklı bölümlerindeki derinlikleri değerlendirerek test ettiler. Ağ, mevcut kurulumlarla iyi bir şekilde karşılaştırılırken kendi belirsizliğini de tahmin ediyordu – en az kesin olduğu zamanlar, gerçekten de derinlikleri yanlış anladığı zamanlardı.

Ek bir avantaj olarak, ağ, normal görev alanı dışındaki görüntülerle karşılaştığı zamanları işaretleyebildi (eğitim almış olduğu verilerden çok farklı) – bu, tıbbi bir durumda bir doktorun bir saniye alması anlamına gelebilir. bak.

Bir sinir ağı% 99 oranında doğru olsa bile, senaryoya bağlı olarak bu yüzde 1’in eksik olması ciddi sonuçlara yol açabilir. Araştırmacılar, çalışma henüz hakem incelemesine tabi tutulmamış olsa da, yeni, geliştirilmiş güven testinin gerçek zamanlı olarak güvenliği artırmaya yardımcı olabileceğinden emin olduklarını söylüyorlar.

Amini, “Bu [sinir ağı] modellerinden çok daha fazlasının araştırma laboratuvarından çıkıp gerçek dünyaya, potansiyel olarak yaşamı tehdit eden sonuçlarla insanlara dokunan durumlara sızdığını görmeye başlıyoruz” diyor.

“İster bir doktor isterse bir aracın yolcu koltuğunda oturan bir kişi olsun, yöntemin herhangi bir kullanıcısı, bu kararla ilişkili herhangi bir risk veya belirsizliğin farkında olmalıdır.”

Araştırma, Aralık ayında NeurIPS konferansında sunuluyor ve bir çevrimiçi makale mevcut.

Bir yorum ekleyin

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir