Günümüzde teknoloji son hız ilerlerken artık her şey otonom olmaya başlıyor. İnsan gücüne dayanmadan çalışan sistemler, makineler ve robotlar var artık. Hatta bir sıkıntı çıktığında veya bir makine ya da robot arıza verdiğinde bunları düzelten/tamir eden yazılımlar/robotlar var. Her şey otonom olduğunda biz insanoğluna oturup izlemek kalacak belki de. Peki, bu durumda her şeyi yönetecek olan yapay zekâya ne kadar güveniyoruz? Güvenmeli miyiz?
Öncelikle yapay zekânın nasıl işlediğine bir değinelim. Basit bir şekilde anlatmaya çalışırsak, biz yapay zekâya karşılaşabileceği durumlar için yapması gerekenleri kodlarız, yapay zekâ ise bizim yazdığımız komutlara göre işlem yapar. Mesela akıllı bir kavşak düşünelim. Bizim yapay zekâya verdiğimiz emirler de şunlar olsun:
-Araç sayısı fazla olan yol için yeşil ışığın süresini uzat.
-Eğer bir yolda ambulans/itfaiye vb. araç var ise o yola öncelik ver.
Bunlar gibi basit komutları uygular yapay zekâ, komutların üzerine düşünmez ya da değerlendirme yapmaz.
Şimdi gelelim asıl konumuza, peki sizce her şey bu kadar basit midir? 2+2=4 müdür her zaman? Duygu, düşünce ve ahlak olmadan işleyebilir mi her şey?
Biz insanlar için bile göreceli olan durumlarda yapay zekâ ne yapacak?
Otonom araçların çarpacağı yayayı seçme problemini çoğunuz duymuşsunuzdur. Bu problemde yola beklenmedik şekilde yayalar fırlıyor ve aracın o anki hızına göre durması imkânsız. Yolun sol tarafında bir babaanne ve torun sağ tarafında ise iki tane üniversite öğrencisi var. Bu durumda yapay zekâya nasıl bir komut vereceğiz? Bu ve benzeri yüzlerce kombinasyon var.
Daha ilginç bir karşılaştırma örneği verelim;
Tren iki yoldan birinden geçecek. Bir yoldaki raylara 5 kişi bağlanmış, diğerine 1 kişi. Siz de ne alakaysa artık kontrol merkezindesiniz. Hiçbir şey yapmazsanız tren yoluna devam edip 5 kişiyi öldürecek. Müdahale edip kolu indirirseniz tek kişi ölecek. Başka alternatif yok. Raylara bağlı insanların hiçbirini de tanımıyorsunuz. Ne yaparsınız?
Eğer çok orijinal biri değilseniz kolu indirip tek kişi öldürmeyi seçeceksiniz. Herkes öyle yapıyor. “Çoğunluğun ihtiyaçları, azınlığınkini ezer” anlayışı her kültürde epey temel (ama sonradan krallık, kölelik, vb kurumlarla bozuluyor).
Yukardaki problemin biraz değişik bir halini hastane problemi olarak sorabiliriz. 5 kişinin acil organ nakline ihtiyaçları var, yoksa ölecekler. O sırada sağlıklı bir insan rutin kontrol için hastaneye adım atıyor. Yaka paça indirip organlarını alır mısınız? Farz edin ki bunu yapmazsanız o 5 kişi ölecek.
Deminkiyle aynı denkleme sahip olmasına rağmen, insanların ezici çoğunluğu buna karşı. Ama neden karşı olduklarını tam anlatamıyorlar. Temel bir refleks bu. Yani kitaplardan öğrenilmiş, akıl edilmiş bir ahlaki tutum değil.
Robotların Doktor olduğu bir gelecek düşündüğümüzde yapay zekâların bu tür bir refleksi ya da içgüdüsü olmadığı için hastaneye gelen o adamı öldürmeyi mi tercih edecekler?
Umarım bu yazı sizi biraz düşündürmüştür, maalesef şimdilik bu soruların net bir cevabı yok. Hep birlikte göreceğiz.
Yararlanılan kaynaklar:
