Misafir Kalem
Yapay zekâ cevap veren sistemden, iş yapan sisteme dönüşmektedir. Bu değişim ekonomiyi de değiştirecektir. Çünkü bir yapay zekâ yalnızca bilgi veriyorsa bir araçtır. Ama araştırıyor, karşılaştırıyor, raporluyor, yazılım geliştiriyor ve süreç yürütüyorsa artık doğrudan üretim kapasitesinin bir parçasıdır. İnsanlık ilk defa zekâyı ölçeklendiriyor.
Yapay zekâ üzerine bugüne kadar binlerce kitap yazıldı. Kimileri algoritmaları anlattı, kimileri makinelerin nasıl öğrendiğini, kimileri robotları, kimileri ise yapay zekânın gelecekte insan hayatını nasıl değiştireceğini.
Fakat bir süredir masamda duran üç kitaba yeniden baktığımda, bunların birbirinden farklı konuları anlatıyor gibi görünmelerine rağmen aslında aynı büyük dönüşümün üç ayrı yüzüne işaret ettiklerini düşündüm.
James Barrat'ın Son İcadımız (Our Final Invention), Kevin Warwick'in Yapay Zekâ: Temel Prensipler ve Lasse Rouhiainen'in Yapay Zekâ: Geleceğimizle İlgili Bugün Bilmeniz Gereken 101 Şey adlı eserleri.
Barrat, yapay zekânın kontrol problemine bakıyor. Warwick, insan ile makine arasındaki sınırın nasıl değişeceğine bakıyor. Rouhiainen ise yapay zekânın ekonomiyi, meslekleri ve toplumu nasıl dönüştüreceğine bakıyor.
Birinin merkezinde risk, diğerinin merkezinde teknoloji, üçüncüsünün merkezinde dönüşüm var.
Fakat üçünü yan yana koyduğumuzda çok daha büyük bir resim ortaya çıkıyor: İnsanlık tarihinde ilk defa yalnızca bilgi üretmiyoruz. Zekâyı da üretilebilir bir kapasite hâline getiriyoruz.
Bence bugün yapay zekâyı anlamaya tam buradan başlamamız gerekiyor. Barrat'ın Büyük Sorusu: Ya Kontrol Bizde Kalmazsa?
James Barrat'ın Son İcadımız kitabının başlığı bile başlı başına bir uyarıdır.
Neden "son icadımız"?
Çünkü Barrat'ın üzerinde durduğu ihtimal şudur: Eğer insanlık bir gün kendisinden daha yetenekli genel bir zekâ üretirse ve bu sistem kendi gelişimini hızlandırabilecek bir kapasiteye ulaşırsa, sonraki büyük icatları artık insanların yapması gerekmeyebilir.
Buradaki mesele "kötü robotlar insanlara saldıracak" şeklindeki basit bir bilim kurgu senaryosu değildir.
Mesele çok daha derindir: Kendisinden daha zeki bir sistemi üreten insan, o sistemin amaçlarının kendi amaçlarıyla uyumlu kalmasını nasıl garanti edecektir? Bugün buna yapay zekâ dünyasında alignment, yani hizalama problemi diyoruz.
Sistemin çok güçlü olması tek başına sorun değildir. Asıl mesele, sistemin hedefleri ile insanın hedeflerinin aynı olmamasıdır.
Barrat'ın yıllar önce dikkat çektiği noktanın bugün hâlâ tartışılıyor olması önemlidir. Çünkü yapay zekâ geliştikçe yalnızca "Ne kadar akıllı?" sorusunu değil, "Ne kadar güvenilir?", "Ne kadar denetlenebilir?" ve "Kimin değerlerine göre hareket ediyor?" sorularını da sormamız gerekiyor.
Burada yapay zekâ meselesi mühendisliğin sınırlarını aşmaya başlıyor. Çünkü "Makine ne yapabilir?" teknik bir sorudur.
Ama "Makineye ne yaptırmalıyız?" artık ahlâkın, hukukun ve siyasetin de sorusudur
Yazının Devamı İçin Abone Olmalısınız
