Yapay zekanın “vaftiz babası” Yoshua Bengio, Kanada’nın en büyük bilim ödülünü kazandı

Kanada’nın en prestijli bilim ödülü, bu hafta alanının geleceği konusunda ciddi şüpheleri olan yapay zeka öncüsü Yoshua Bengio’ya verildi.

Montreal Öğrenme Algoritmaları Enstitüsü’nün bilimsel direktörü ve Université de Montréal’de profesör olan Bengio, bu yıl Kanada Doğa Bilimleri ve Mühendislik Araştırma Konseyi’nden (NSERC) Herzberg Kanada Bilim ve Mühendislik Altın Madalyasını aldı. Çarşamba günü açıklandı. Ödül, her yıl bilim veya mühendislik alanlarındaki çalışmaları “sürekli mükemmellik ve etki” sergileyen Kanadalılara veriliyor.

Bengio’nun yapay sinir ağları ve derin öğrenme konusundaki çığır açan çalışması, ona Yann LeCun ve Kanadalı arkadaşı Geoffrey Hinton ile paylaştığı “Yapay Zekanın Vaftiz Babası” lakabını kazandırdı.

Bengio, sinir ağlarıyla ilgili “fikir, sinir biliminden, beyinden ilham alarak akıllı makineler inşa edebilmemizdi” dedi. Tuhaflıklar ve kuarklar. Derin öğrenme, görüntü ve konuşma tanımadan ChatGPT gibi araçların arkasındaki üretken yapay zeka ve doğal dil işlemeye kadar yapay zeka teknolojisindeki son gelişmelerin çoğunun temelini oluşturuyor.

Bengio da son yıllarda oradaydı Bu teknolojinin potansiyel riskleri hakkında yorum yapan yapay zeka araştırmacılarıve bölgenin hızlı ve sıkı bir şekilde düzenlenmesi çağrısında bulundu.

Bengio bizimle konuştu Tuhaflıklar ve kuarklar Sunucu Bob McDonald, yapay zekadaki son gelişmeleri ve geleceğe dair umutlarını ve endişelerini anlatıyor.

İşte konuşmalarının bir kısmı.

Özellikle hangi başarılardan gurur duyuyorsunuz?

Bugün çok alakalı bir şeyle başlayacağım. 2000 yılındaki ana sinir ağları konferansında, dili ve kelime dizilerini modellemek için sinir ağları hakkında NeurIPS adında bir makale yayınladım. Ve buna çok benzeyen bir tarif aslında şu anda bu dev dil modellerini ve sohbet robotlarını eğitmek için kullanılıyor.

2014’teki bir başka keşfim, beyinden ilham alan bir şeyi, yani dikkat mekanizmalarını ortaya çıkardı; beynimizin yaptığı hesaplamalarda birkaç öğeye, örneğin birkaç kelimeye odaklanmamızı sağlayan bir şey. Bu yapay sinir ağlarına böyle bir şey koyduk ve bunun son derece yararlı olduğu ortaya çıktı ve önce çok daha iyi makine çevirisine, sonra da çok daha iyi dil modellerine yol açtı. Ve bu tür dikkat mekanizmaları son teknolojide artık giderek daha sık kullanılmaktadır.

Yapay zeka alanının çok hızlı ilerlediği konusunda ne zaman endişelenmeye başladınız?

Uzun yıllardır sosyal etkiyi düşünüyorum. Büyük şirketler on yıl önce reklamcılık için makine öğrenimini, sinir ağlarını ve derin öğrenmeyi kullanmaya başladığında, bunun insanları manipüle etmek için kullanılabileceğinden biraz endişeliydim. Ancak bu yıl ChatGPT ile endişelerim gerçekten katlanarak arttı.

Beni asıl ilgilendiren soru şu: Pek çok alanda ve muhtemelen her şeyde bizden daha iyi performans gösterebilecek makineler üretme yolundayız. Peki aletin gücü yanlış ellerde tehlikeli bir hal alırsa ne olacak? Yoksa bizden daha akıllılarsa bu sistemlerin kontrolünü bile kaybedebilir miyiz? Bunların hepsi ne yazık ki yanıtını alamadığımız önemli sorular.

Cevaplar hem bilimseldir – örneğin, bir yapay zeka sisteminin istediğimizi yapmasını nasıl sağlarız, ama buna bir cevabımız yok – hem de politik ya da yönetişimle ilgili. Bu kadar güçlü ve potansiyel olarak son derece kullanışlı bir aracın insanlara ve topluma zarar vermemesini sağlamak için ne tür düzenlemeleri, yasaları ve uluslararası anlaşmaları yürürlüğe koymalıyız?

GÖRÜNTÜLE | Bengio yapay zekanın tuzakları hakkında:

Sen bize bu teknolojiyi getiren insanlardan birisin. Bundan doğabilecek tehlikeleri neden öngörmediniz?

Yapayım. 2022-2023’te bu modern sistemlerin inanılmaz yeteneklerini görmeden önce kulağa bilim kurgu gibi geliyordu. İnsan düzeyindeki performansa ulaşmamızın yüzyıllar olmasa da onlarca yıl alacağını düşündüm.

Ama psikolojik olan başka nedenlerin de olduğunu düşünüyorum. Bilirsiniz, araştırmacılar insandır. Bizi motive eden ve işimizle ilgili kendimizi iyi hissettiren şeylerle tutarlı bir şekilde düşünebiliriz. İşinizi birdenbire toplum için tehlikeli olabilecek bir şey olarak görmek zordur ve bu durum gözünüzü başka yöne çevirebilir. Toplumdaki pek çok kişi için bu riskleri ciddiye almanın neden bu kadar zor olduğunu açıklayan pek çok faktör olduğunu düşünüyorum.

Sizce teknolojiyi düzenlemenin reçetesi nedir?

İlk şey, cesaretinizi kırmamak ve teraziyi tersine çevirmek için mümkün olduğunca çabuk yapabileceğimiz küçük şeyleri düşünmektir. Bu nedenle öncelikle bunun, diğer bilimsel başarılar gibi toplumu değiştirip dönüştürebilecek çok güçlü bir teknoloji olduğunu hükümetlere açıkça anlatmalıyız. Dikkatlice yapılmalıdır. Kanada da oldukça iyi ilerleme kaydetti ve şimdiden iyi iş çıkaracak bir yasa hazırladı.

Ancak hâlâ yapmamız gereken şey, mümkün olduğu kadar çok ülkenin mevzuatlarını uyumlu hale getirmek için birlikte çalışmasını sağlamak için uluslararası düzeyde çalışmak, örneğin tüm bu potansiyel olarak tehlikeli sistemlerin kayıt altına alınmasını sağlamak. Bu konuda çalışan firma veya kuruluşların doğru önlemleri almasını sağlıyoruz.

Demokratik kontrolün de olmasını sağlamak istiyoruz. Bununla demek istediğim şu: Düzenleyicilerin, aynı zamanda medyanın, akademi dünyasının ve sivil toplumun da olup biteni bilmesi gerekiyor. Çünkü giderek daha güçlü hale gelen araçlar geliştiriyoruz ve gücün yoğunlaşması deyim yerindeyse demokrasinin tam tersidir. Bu gücün iyi yönde kullanılmasını sağlamak için kontrol ve dengelerin mevcut olduğundan emin olmalıyız.

Yapay zekanın geleceğine dair iyimser vizyonunuz nedir?

Uzun yıllardır, özellikle de salgının başlangıcından bu yana, birçok alanda bilimsel keşifleri desteklemek için makine öğreniminin ve derin öğrenmenin nasıl kullanılabileceği konusuyla ilgileniyorum. Özellikle bu alanların bazılarında devrim görmemizin çok muhtemel olduğunu düşünüyorum. Öncelikle biyolojiyi düşünüyorum çünkü artık çok büyük miktarda veri üretiyoruz, örneğin hücrelerimizde olup bitenler hakkında. Bilirsiniz, hücreleriniz inanılmaz derecede karmaşık makinelerdir. Ancak artık olup bitenlerin büyük bir kısmını gözlemleme ve ölçme yeteneğine sahibiz. Bu da insan beyninin doğrudan işleyemeyeceği bilgileri sağlar. Ancak yapay zeka, bunu bilimsel düzeyde anlamamıza ve aynı zamanda tedavi etmemize yardımcı olabilecek teoriler ve modeller geliştirmemize gerçekten yardımcı olabilir. Bir şeyin nasıl çalıştığını anladığımızda ilaçları geliştirebiliriz.

Bu Soru-Cevap, uzunluk ve netlik açısından düzenlendi. Yapımcılığını Jim Lebans’ın üstlendiği Yoshua Bengio ile röportaj.