Bencil bir yapay zekâ, insanlığın başına bela olabilir mi?
Kaliforniya Üniversitesi'nden Prof.
Stuart J. Russel "hem de çok büyük bela" diyor. Makineler bir kez
zeki olmaya başlarsa, bu zekânın insanlığa faydasını iyi kontrol
etmek şart olacak. Aksi halde yapay zekâ, çağımızın en büyük risk
unsuru...
Turkcell Teknoloji Zirvesi için geldiği İstanbul'da zirve öncesi
yemekte, yapay zekânın geçmişi, şimdisi ve geleceğini konuştuk.
Russel, öncelikle yapay zekânın neleri kapsadığına dair çerçeve
çiziyor; Makine öğrenimi, ihtimal hesaplama, planlama, gerçek
zamanlı kritik karar alma, çoklu hedef izleme, işlemsel biyoloji ve
tüm bunların arka planında yatan yeni felsefe...
Robotik ve biyo-enformatik alanlarındaki çalışmalarında Russel,
akıllı silahlarla kitlesel kıyım risklerinden, bencil bir zekânın
insanlığa vereceği zararlardan, yeni nesil terminatörlerden söz
ederken irkiliyorsunuz.
Neticede yapay da olsa bir zekâ söz konusu ve onu inşa eden,
organik zekâlı beyinlerimiz.
Bu süreçte eğer siz etik değerleri ıskalar, insana özen
göstermezseniz, kendi elinizle Frankeştayn inşa etmiş
olursunuz.
Peki, bu işlere hiç bulaşmamak?
Bu, artık mümkün değil. Nasıl ki karşıtı veya yandaşı olsanız dahi
küreselleşme sizi dönüştürüyorsa, yapay zekâ çağında bizlerin bu
alanda "geri kalmaması" şart. Aksi halde başkasının hizmetindeki
yapay zekâ tarafından yönetilir, sömürülür, belki de esir
edilirsiniz.
Russel'e robotların zihin kodunu yazan Isaac Asimov'un 3 robot
yasasını soruyorum; "günümüz