Person of Interest'ten AI Çağına: Mesele Hiçbir Zaman Yalnızca Makine Değildi


Son zamanlarda yapay zekâ dünyasından gelen haberleri biraz daha dikkatli takip ediyorum. Teknoloji şirketlerinin ordularla yaptığı anlaşmalar, bu anlaşmalara itiraz eden çalışanlar, istifalar, etik tartışmalar... Özellikle yapay zekânın askerî operasyonlarda ve gözetim faaliyetlerinde nasıl kullanılacağına ilişkin gelişmeler, üzerinde düşünmeye değer soruları da beraberinde getiriyor.

Örneğin OpenAI'ın Pentagon ile yaptığı anlaşmanın ardından şirketin donanım çalışmalarını yöneten Caitlin Kalinowski, güvenlik sınırlarının yeterince tartışılmadan ilerlenmesini eleştirerek istifa etti. Anthropic, teknolojisinin otonom silahlarda ve kitlesel gözetimde kullanılmasını engelleyen sınırların kaldırılmasına karşı çıktı. Google DeepMind'dan ayrılan bazı çalışanlar ise askerî iş birlikleri kadar, bu konudaki endişelerini dile getirmenin yarattığı baskıdan da söz ediyor.

Bir yanda insanlığın geleceğini değiştirme potansiyeline sahip teknolojiler, diğer yanda o teknolojileri geliştiren insanların bile tam olarak gideremediği kaygılar var.

Bütün bu haberleri okurken benim aklıma ise yıllar önce izlediğim bir dizi geliyor: Person of Interest.

Bugüne kadar izlediğim en iyi ve en sevdiğim dizilerden biri. Jonathan Nolan'ın 2011 yılında başlayan hikâyesini bugün yeniden düşününce, adamın ileri görüşlülüğüne bir kez daha hayran kalıyorum. Yapay zekâ henüz bugünkü gibi hayatımızın her alanına girmemişken gözetim, mahremiyet, algoritmik kararlar ve teknolojinin iktidarı üzerine böylesine güçlü bir hikâye kurabilmiş. Maşallah demeden geçemeyeceğim.


Üstelik beni etkileyen yalnızca bunları yıllar öncesinden düşünmüş olması değil. O zaman da The Machine'in varlığını sorguladığımı hatırlıyorum. Her şeyi görebilen, insan davranışlarını analiz ederek henüz gerçekleşmemiş suçları öngörebilen ve böylece hayat kurtarabilen bir sistem fikri müthişti. Öte yandan aynı sistemin herkesi izleyebilmesi, hakkımızda bizden bile fazla bilgi sahibi olması hiç de iç açıcı değildi.

Bir yandan böyle bir teknolojinin var olmasını istiyor, diğer yandan varlığından rahatsız oluyordum.

Aslına bakarsanız bu ikircikli durumun bugün de değiştiğini söyleyemem.

Yapay zekânın sunduğu imkânları heyecan verici buluyorum. Bilimden sağlığa, eğitimden üretime kadar yaratabileceği dönüşümü küçümsemek mümkün değil. Hatta hayatımızı ne ölçüde değiştireceğini henüz tam olarak kavrayabildiğimizi de sanmıyorum. Fakat bütün bu potansiyel, aynı teknolojinin bir gözetim ve kontrol aracına dönüşebileceği gerçeğini ortadan kaldırmıyor.

Person of Interest'te The Machine ile Samaritan arasındaki çatışma da tam olarak bu ikilemi düşündürüyordu bana.

Harold Finch'in yarattığı The Machine, insanları korumayı amaçlıyordu. Finch geliştirdiği sistemin gücünü bildiği kadar, o gücün tehlikelerinin de farkındaydı. Samaritan ise insanlığı koruma iddiasını insanların hayatlarını yönetme hakkına kadar götürüyordu.

İki sistem de olağanüstü bilgiye sahipti. İkisi de geleceği etkileyebiliyordu. Ancak aralarında önemli bir fark vardı: Birinin yaklaşımı insanlara yardım etmek üzerine kuruluyken diğeri insanlar adına karar verme yetkisini kendinde görüyordu.

Tabii The Machine'i tamamen masum, Samaritan'ı bütünüyle kötü kabul etmek de meseleyi basitleştirmek olur. Neticede ikisi de insanları gözetliyordu. The Machine'in iyi amaçlarla kullanılması, mahremiyet konusunda yarattığı soruları ortadan kaldırmıyordu.


Bence diziyi bu kadar iyi yapan da buydu. Seyirciye kolay cevaplar sunmuyor, kendi doğrularını sorgulatıyordu.

Bugün yapay zekâ şirketleriyle ilgili tartışmaları da biraz böyle değerlendiriyorum. Teknolojinin savunma alanında kullanılmasını başlı başına yanlış bulmak fazla kolaycı olur. Tehditleri erken tespit etmek, insan hatasını azaltmak ve hayat kurtarmak için kullanılabilecek sistemlerden söz ediyoruz. Ancak bir tehlikeyi tespit etmekle, kimin tehlikeli olduğuna ve o kişi hakkında ne yapılacağına karar vermek arasında çok ciddi bir fark var.

Üstelik algoritmaların tarafsızlığına güvenmek kulağa ne kadar konforlu gelse de hangi verilerin kullanılacağına, hangi davranışların riskli sayılacağına ve hangi sonuçların kabul edilebilir olduğuna hâlâ insanlar karar veriyor.

Belki de en çok burada durup düşünmek gerekiyor.

Bir yapay zekâ sisteminin değerlendirmesi sonucunda yanlış bir karar alındığında sorumluluk kime ait olacak? Sistemi geliştiren mühendise mi, onu kullanıma sunan şirkete mi, kararı uygulayan kuruma mı? Yoksa insanlığın en eski alışkanlıklarından birini sürdürüp sorumluluğu bu kez de teknolojiye mi yükleyeceğiz?

İşin ilginç yanı, makineler geliştikçe bu soruların giderek daha fazla insan doğasına ilişkin hâle gelmesi. Çünkü güç, kontrol, güvenlik ve özgürlük arasındaki çatışma yeni değil. İnsanlık tarihi, başkalarının iyiliği adına alınan kararlarla, güvenlik gerekçesiyle sınırlandırılan haklarla ve gücün kendisini haklı çıkarmak için bulduğu gerekçelerle dolu.


Değişen, artık bütün bunları çok daha hızlı ve karmaşık sistemler aracılığıyla, “kolayca” gerçekleştirebiliyor olmamız.

Sanırım Harold Finch'in en sevdiğim taraflarından biri de buydu. Kendi yarattığı teknolojiye hayran olmakla birlikte ondan korkmayı da biliyordu. Üstelik koyduğu sınırların her zaman doğru sonuçlar doğurmadığını da gördük. Belki de onu ilginç kılan, her şeyi bilen bir dâhi olması değil, her şeyi bilmenin insana her şeye karar verme hakkı tanımadığının farkında olmasıydı.

Bugün geldiğimiz noktada Person of Interest'i yeniden düşündüğümde Nolan'ın yalnızca teknolojinin geleceğini değil, insanın teknoloji karşısındaki açmazlarını da oldukça iyi gördüğünü düşünüyorum.

Yapay zekâya karşı değilim. Sunduğu olanaklardan faydalanıyorum, gelişimini merakla takip ediyorum. Ama onunla ilgili kaygıları da gereksiz bulmuyorum. Hatta bu ikircikli hâlin, teknolojiyle kurabileceğimiz en sağlıklı ilişkilerden biri olabileceğini düşünüyorum.

Yıllar önce The Machine'i izlerken hissettiğim hayranlıkla tedirginlik bugün hâlâ benimle.

Bir makinenin insan hayatını kurtarabilmesi fikri beni hâlâ heyecanlandırıyor. Aynı makinenin kimin kurtarılmaya değer olduğuna karar vermesi ise ürkütüyor.

Belki de Person of Interest'in yıllar önce bize hatırlattığı en önemli şey buydu: Mesele makinelerin ne kadar akıllı olacağı değil, onlara ne kadar güç vermeyi kabul edeceğimiz. 

Ve o gücü verirken kendi aklımızdan, irademizden ve vicdanımızdan ne ölçüde vazgeçeceğimiz...

🎶🎵 Yazının şarkısı için sizi şuraya alalım! :)


Yorumlar

Bu blogdaki popüler yayınlar

Anne ben yeterliymişim!

Aşk mı, Güç Mücadelesi mi? The Diplomat ve İlişkilerin Diplomasisi

Uçurtma Bayramları*