Person of Interest'ten AI Çağına: Mesele Hiçbir Zaman Yalnızca Makine Değildi
Son zamanlarda yapay zekâ dünyasından gelen haberleri biraz daha dikkatli takip ediyorum. Teknoloji şirketlerinin ordularla yaptığı anlaşmalar, bu anlaşmalara itiraz eden çalışanlar, istifalar, etik tartışmalar... Özellikle yapay zekânın askerî operasyonlarda ve gözetim faaliyetlerinde nasıl kullanılacağına ilişkin gelişmeler, üzerinde düşünmeye değer soruları da beraberinde getiriyor.
Örneğin OpenAI'ın Pentagon ile
yaptığı anlaşmanın ardından şirketin donanım çalışmalarını yöneten Caitlin
Kalinowski, güvenlik sınırlarının yeterince tartışılmadan ilerlenmesini
eleştirerek istifa etti. Anthropic, teknolojisinin otonom silahlarda ve kitlesel
gözetimde kullanılmasını engelleyen sınırların kaldırılmasına karşı çıktı.
Google DeepMind'dan ayrılan bazı çalışanlar ise askerî iş birlikleri kadar, bu
konudaki endişelerini dile getirmenin yarattığı baskıdan da söz ediyor.
Bir yanda insanlığın geleceğini
değiştirme potansiyeline sahip teknolojiler, diğer yanda o teknolojileri
geliştiren insanların bile tam olarak gideremediği kaygılar var.
Bütün bu haberleri okurken benim
aklıma ise yıllar önce izlediğim bir dizi geliyor: Person of Interest.
Bugüne kadar izlediğim en iyi ve
en sevdiğim dizilerden biri. Jonathan Nolan'ın 2011 yılında başlayan hikâyesini
bugün yeniden düşününce, adamın ileri görüşlülüğüne bir kez daha hayran
kalıyorum. Yapay zekâ henüz bugünkü gibi hayatımızın her alanına girmemişken
gözetim, mahremiyet, algoritmik kararlar ve teknolojinin iktidarı üzerine
böylesine güçlü bir hikâye kurabilmiş. Maşallah demeden geçemeyeceğim.
Üstelik beni etkileyen yalnızca
bunları yıllar öncesinden düşünmüş olması değil. O zaman da The Machine'in
varlığını sorguladığımı hatırlıyorum. Her şeyi görebilen, insan davranışlarını
analiz ederek henüz gerçekleşmemiş suçları öngörebilen ve böylece hayat
kurtarabilen bir sistem fikri müthişti. Öte yandan aynı sistemin herkesi
izleyebilmesi, hakkımızda bizden bile fazla bilgi sahibi olması hiç de iç açıcı
değildi.
Bir yandan böyle bir teknolojinin
var olmasını istiyor, diğer yandan varlığından rahatsız oluyordum.
Aslına bakarsanız bu ikircikli
durumun bugün de değiştiğini söyleyemem.
Yapay zekânın sunduğu imkânları
heyecan verici buluyorum. Bilimden sağlığa, eğitimden üretime kadar
yaratabileceği dönüşümü küçümsemek mümkün değil. Hatta hayatımızı ne ölçüde
değiştireceğini henüz tam olarak kavrayabildiğimizi de sanmıyorum. Fakat bütün
bu potansiyel, aynı teknolojinin bir gözetim ve kontrol aracına dönüşebileceği
gerçeğini ortadan kaldırmıyor.
Person of Interest'te The
Machine ile Samaritan arasındaki çatışma da tam olarak bu ikilemi
düşündürüyordu bana.
Harold Finch'in yarattığı The
Machine, insanları korumayı amaçlıyordu. Finch geliştirdiği sistemin gücünü
bildiği kadar, o gücün tehlikelerinin de farkındaydı. Samaritan ise insanlığı
koruma iddiasını insanların hayatlarını yönetme hakkına kadar götürüyordu.
İki sistem de olağanüstü bilgiye
sahipti. İkisi de geleceği etkileyebiliyordu. Ancak aralarında önemli bir fark
vardı: Birinin yaklaşımı insanlara yardım etmek üzerine kuruluyken diğeri
insanlar adına karar verme yetkisini kendinde görüyordu.
Tabii The Machine'i tamamen
masum, Samaritan'ı bütünüyle kötü kabul etmek de meseleyi basitleştirmek olur.
Neticede ikisi de insanları gözetliyordu. The Machine'in iyi amaçlarla
kullanılması, mahremiyet konusunda yarattığı soruları ortadan kaldırmıyordu.
Bence diziyi bu kadar iyi yapan
da buydu. Seyirciye kolay cevaplar sunmuyor, kendi doğrularını sorgulatıyordu.
Bugün yapay zekâ şirketleriyle
ilgili tartışmaları da biraz böyle değerlendiriyorum. Teknolojinin savunma
alanında kullanılmasını başlı başına yanlış bulmak fazla kolaycı olur.
Tehditleri erken tespit etmek, insan hatasını azaltmak ve hayat kurtarmak için
kullanılabilecek sistemlerden söz ediyoruz. Ancak bir tehlikeyi tespit etmekle,
kimin tehlikeli olduğuna ve o kişi hakkında ne yapılacağına karar vermek
arasında çok ciddi bir fark var.
Üstelik algoritmaların
tarafsızlığına güvenmek kulağa ne kadar konforlu gelse de hangi verilerin
kullanılacağına, hangi davranışların riskli sayılacağına ve hangi sonuçların
kabul edilebilir olduğuna hâlâ insanlar karar veriyor.
Belki de en çok burada durup
düşünmek gerekiyor.
Bir yapay zekâ sisteminin
değerlendirmesi sonucunda yanlış bir karar alındığında sorumluluk kime ait
olacak? Sistemi geliştiren mühendise mi, onu kullanıma sunan şirkete mi, kararı
uygulayan kuruma mı? Yoksa insanlığın en eski alışkanlıklarından birini sürdürüp
sorumluluğu bu kez de teknolojiye mi yükleyeceğiz?
İşin ilginç yanı, makineler
geliştikçe bu soruların giderek daha fazla insan doğasına ilişkin hâle gelmesi.
Çünkü güç, kontrol, güvenlik ve özgürlük arasındaki çatışma yeni değil.
İnsanlık tarihi, başkalarının iyiliği adına alınan kararlarla, güvenlik
gerekçesiyle sınırlandırılan haklarla ve gücün kendisini haklı çıkarmak için
bulduğu gerekçelerle dolu.
Değişen, artık bütün bunları çok
daha hızlı ve karmaşık sistemler aracılığıyla, “kolayca” gerçekleştirebiliyor
olmamız.
Sanırım Harold Finch'in en
sevdiğim taraflarından biri de buydu. Kendi yarattığı teknolojiye hayran
olmakla birlikte ondan korkmayı da biliyordu. Üstelik koyduğu sınırların her
zaman doğru sonuçlar doğurmadığını da gördük. Belki de onu ilginç kılan, her şeyi
bilen bir dâhi olması değil, her şeyi bilmenin insana her şeye karar verme
hakkı tanımadığının farkında olmasıydı.
Bugün geldiğimiz noktada Person
of Interest'i yeniden düşündüğümde Nolan'ın yalnızca teknolojinin
geleceğini değil, insanın teknoloji karşısındaki açmazlarını da oldukça iyi
gördüğünü düşünüyorum.
Yapay zekâya karşı değilim.
Sunduğu olanaklardan faydalanıyorum, gelişimini merakla takip ediyorum. Ama
onunla ilgili kaygıları da gereksiz bulmuyorum. Hatta bu ikircikli hâlin,
teknolojiyle kurabileceğimiz en sağlıklı ilişkilerden biri olabileceğini düşünüyorum.
Yıllar önce The Machine'i
izlerken hissettiğim hayranlıkla tedirginlik bugün hâlâ benimle.
Bir makinenin insan hayatını
kurtarabilmesi fikri beni hâlâ heyecanlandırıyor. Aynı makinenin kimin
kurtarılmaya değer olduğuna karar vermesi ise ürkütüyor.
Belki de Person of Interest'in yıllar önce bize hatırlattığı en önemli şey buydu: Mesele makinelerin ne kadar akıllı olacağı değil, onlara ne kadar güç vermeyi kabul edeceğimiz.
Ve o gücü verirken kendi aklımızdan, irademizden ve vicdanımızdan ne ölçüde vazgeçeceğimiz...
🎶🎵 Yazının şarkısı için sizi şuraya alalım! :)
.jpeg)

.jpeg)
.jpeg)
Yorumlar
Yorum Gönder
Güzel yorumunuz için şimdiden teşekkürler. :)
(Adsız yorum bırakmamanız dileğiyle..)