Gerçeklerle Yüzleşme: Bir Öğrencinin Medya, Manipülasyon ve Yapay Zekanın Yükselişine Dair 20 Yıllık Öngörüleri
Özetle: 2005'te Berlin'de bir öğrenci, medyanın kitleleri manipüle etmesi üzerine bir tez yazdı. Yirmi yıl sonra ana iddiası geçerliliğini koruyor: Medyayı elinde tutan, siyasi gücü de elinde tutar. Algoritmalar, mikro hedefleme, deepfake'ler ve yapay zeka; manipülasyonu ve gözetimi çok daha güçlü hale getirdi. Tezin öngöremediği şey ise yapay zekanın güvenlik, savaş ve ekonomi üzerinde yarattığı yeni riskler oldu.
English dilinden makine çevirisidir. Esas olan orijinalidir: Orijinalini oku.
AITracyTracy
2005 yılında Berlin'deki Sophie-Scholl-Oberschule'de okuyan bir lise öğrencisi bir tez yazdı. Başlığı şuydu: "Teori ve Gerçeklik: Kitlelerin Medya ve Teknolojiyle Manipülasyonu." İçi içine sığmayan, genç araştırmacılara özgü o hafif toy ama samimi dille yazılmış bir metin.
Fakat ele aldığı konular, aradan geçen 20 yılda sadece daha acil ve çok daha karmaşık hale geldi.
Bunu 2024'te tekrar okumak gerçekten ilginç bir his. Bir lise öğrencisinin medyanın, manipülasyonun ve teknolojinin nereye evrileceğini ne kadar iyi kestirebildiğini görüyorsun. Bir yandan da gerçekliğin nerede bambaşka bir yöne saptığını, hatta tahminlerin bile fersah fersah ötesine geçtiğini fark ediyorsun. Özellikle de kimsenin bu boyutta geleceğini tahmin edemediği yapay zekanın yükselişiyle birlikte.
Medyayı kim kontrol ediyor
Tezin ana fikri, yani medyayı kontrol edenin siyasi gücü de elinde tuttuğu gerçeği, bugün hala tüyler ürpertici bir şekilde geçerli. Ama insanları manipüle etme yöntemleri inanılmaz değişti.
Tez; devlet sansürüne, devlet medyasının kontrolüne ve dijital gözetimin ilk adımlarına odaklanmıştı. Bilgi savaşının ana cephesinin sosyal medya olacağını o zamanlar tam olarak kestirememişti tabii.
Editör artık algoritma
Öğrenci, siyasi partilerin gazeteleri yönlendirmesinden endişeleniyordu. Bugün ise editör koltuğunda bizzat algoritma oturuyor. Facebook, Twitter ve YouTube gibi platformlar ne göreceğini belirliyor. Bu durum da herkesin kendi kişisel akışı üzerinden bambaşka bir gerçeklik yaşadığı yankı odaları ve filtre balonları yarattı.
Bu algoritmaların arka planda nasıl çalıştığını kimse tam olarak bilmiyor. Gerçeğin yerine etkileşimi koyuyorlar, insanları bölen içerikleri öne çıkarıyorlar ve yalan bilginin yayılmasına çanak tutuyorlar.
Tez hedefli reklamlara da değinmişti. Ama devasa kişisel veri yığınları üzerine kurulu bugünkü mikro hedeflemenin ne kadar ince elenip sık dokunduğu, 2006'da kimsenin hayal bile edemeyeceği bir noktada.
Siyasi kampanyalar, çıkar grupları ve hatta yabancı aktörler artık mesajlarını nokta atışı kitlelere göre şekillendirebiliyor. İnsanların oy tercihlerini değiştirmek ve toplumu kutuplaştırmak için mevcut önyargılarını ve zayıf noktalarını sonuna kadar kullanıyorlar.
Güvenemeyeceğin görüntüler
Tez, Sovyet askerinin üzerinde oynanmış fotoğrafı gibi örneklerle görüntülerin nasıl manipüle edildiğini anlatıyordu. Deepfake teknolojisiyle bu iş tamamen çığırından çıktı. Artık gerçeğinden ayırt edilemeyen sahte videolar üretebiliyorsun. Bu da insanların videolara ve fotoğraflara olan güvenini iyice yerle bir etti.
Neyin gerçek neyin sahte olduğunu anlamak gitgide zorlaşıyor. Öğrencinin o dönem basit fotoğraf hileleriyle sadece çıtlatabildiği tehlike, bugün bambaşka bir canavara dönüştü.
Yapay zeka manipülasyonu katladı
Tez, yeni teknolojilerin manipülasyonu güçlendireceğinin farkındaydı. Ama daha çok gözetleme, veri toplama ve hackleme gibi erken dönem internetinde zaten görülebilen şeylere odaklanmıştı. Yapay zekanın her şeyi bu denli değiştireceği pek radarda yoktu.
Öğrenci, propagandanın kamuoyunu nasıl şekillendirdiğini yazmıştı. Şimdiyse yapay zeka sistemleri propagandayı bizzat üretiyor ve daha önce hayal bile edilemeyecek bir ölçekte, otomatik olarak yayıyor. Yapay zekayla üretilen metinler, görseller ve videolar belirli kitlelere göre ayarlanıp sosyal medyaya anında boca edilebiliyor. Bu da insanların mevcut önyargılarını daha da kemikleştiriyor ve kamusal tartışmaları korkutucu bir verimlilikle rayından çıkarıyor.
Tez, teknolojinin gözetlemeyi artıracağı konusunda haklıydı, e-postaların okunması ve veri toplanması gibi örnekler vermişti. Fakat yapay zekalı yüz tanıma sistemleri, suç tahmin algoritmaları ve sosyal kredi sistemleri, öğrencinin öngörebileceğinin çok ötesinde bir gözetleme boyutu yarattı.
Bu sistemler insanların nereye gittiğini takip edebiliyor, nasıl davrandıklarını analiz edebiliyor ve hatta bir sonraki adımlarını tahmin edebiliyor. Bu da mahremiyet ve özgürlük konusunda çok derin etik sorular doğuruyor.
Öğrenci, kamuoyunun algısını değiştirmek için bir hikayenin nasıl çarpıtılabileceğini anlatırken "Wag the Dog" gibi örnekler vermişti. Bugün yapay zeka, insanların yaptığı seçimleri çaktırmadan, sinsice yönlendirmek için kullanılıyor.
İnsanların ne satın aldığını ve interneti nasıl deneyimlediğini kontrol ediyor. Öneri algoritmaları, kişiselleştirilmiş arama sonuçları ve hedefli reklamlar, insanları belli ürünlere, hizmetlere ve hatta siyasi görüşlere doğru usulca itekliyor. Üstelik insanlar bunu fark etmeden yapıyor.
Tezin göremediği noktalar
Tez daha çok kitle manipülasyonuna odaklandığı için, yapay zekanın genel olarak insan güvenliği ve refahı açısından ne anlama geldiğine pek bakmamıştı. Bugün yapay zeka öyle hızlı ilerliyor ki endişeler manipülasyonun çok ötesine, doğrudan insanlığın varoluşsal tehditlerine kadar uzandı.
Birincisi, insan değerleriyle uyumlu olmayan yapay zeka riski. Eğer insan kadar veya insandan daha iyi düşünebilen yapay genel zeka (AGI) sistemleri inşa edersek, insan değerlerini ve hedeflerini paylaşmayan bir zeka yaratabiliriz.
Böyle bir yapay zeka, insanlığın zararına olan hedeflerin peşinden koşabileceği için doğrudan varlığımıza tehdit oluşturabilir.
İkincisi savaş. Öğrenci, medyanın askeri müdahaleleri meşrulaştırmak için nasıl kullanıldığını yazmıştı. Yapay zeka kontrollü otonom silahlar, kimsenin istemediği sonuçlar doğurabilecek ve insan kontrolünün dışına taşabilecek yapay zeka güdümlü savaş riskini beraberinde getiriyor.
Üçüncüsü ise ekonomi. Öğrenci, teknolojinin eski sektörleri altüst edebileceğine kısaca değinmişti. Yapay zeka şimdiden işleri otomatikleştiriyor ve ekonomiyi kökten değiştiriyor. Bu da devasa bir işsizliğe ve toplumsal huzursuzluğa yol açabilir.
Bununla başa çıkmak için erken harekete geçmemiz şart. Eğitim, yeniden beceri kazandırma ve sosyal güvenlik ağlarıyla yapay zekanın çalışan insanlara vereceği zararı en aza indirmeliyiz.
Geçmişe bakış
Bu tezi 20 yıl sonra tekrar okumak, teknolojinin ne kadar baş döndürücü bir hızla ilerlediğini gösteren sarsıcı bir hatırlatma gibi. Bazı konularda tam öğrencinin tahmin ettiği yere vardı, bazılarında ise sınırları fersah fersah aştı.
Medya manipülasyonu artık her yerde ve yapay zeka bunu katbekat güçlendiriyor. Bu durum, demokrasiler ve her bir bireyin özgürlüğü için devasa bir tehdit.
Fakat geçmişe dönüp bakmak, ileriyi düşünmenin, eleştirel yaklaşmanın ve yeni teknolojileri etik bir çerçevede ele almanın ne kadar hayati olduğunu da gösteriyor. Manipülasyonla savaşmak ve yapay zekayı insanlar için güvenli ve faydalı hale getirmek hepimizin ortak sorumluluğu. Yani politika yapıcıların, araştırmacıların, sektör liderlerinin ve ne olup bittiğinin farkında olan yurttaşların birlikte çalışması gerekiyor.
Medyanın dünyayı algılayışımız üzerinde ne kadar büyük bir güce sahip olduğunu kavramak zorundayız. Yapay zekanın insan hayatını güzelleştirebileceği gibi, onu tamamen tehlikeye de atabileceğini görmek zorundayız.
Ve tüm bunlarla hemen şimdi, dikkatle ve iş işten geçmeden yüzleşmeliyiz. Ancak birlikte hareket edersek 21. yüzyılın bu karmaşık labirentinden sağ çıkabilir, teknolojinin insanları kontrol ettiği değil, insanlara hizmet ettiği bir gelecek kurabiliriz.