Batı dünyası bilimlerin yükselişi ile başlayan modern dönemle birlikte insanı dar, hissi dünyanın sınırı içerisinde tutmaya çalıştı. Bir noktadan sonra kendi sınırlarını mutlaklaştıran bu insanlar, dünyanın geri kalanını da şekillendirmeye çalıştı.
Yuval Noah Harari de bu ‘şekil verici’ Batı akademisyenlerinin klasik bir örneği. Kendisi İsrailli bir tarihçi, yazar ve profesör. 24 Şubat 1976'da İsrail'de doğdu. Harari, İbrani Üniversitesi'nde tarih alanında lisans eğitimi aldı, daha sonra aynı üniversitede doktorasını tamamladı. Şu anda aynı üniversitede Dünya Tarihi profesörü olarak görev yapmaktadır.
En ünlü eserleri arasında "Sapiens: İnsan Türünün Kısa Bir Tarihi", "Homo Deus: Yarının Kısa Bir Tarihi" ve "21. Yüzyılda Homo Sapiens: İnsan Ne Yapmalı?" bulunmaktadır. Bu kitaplarında Harari, insanlık tarihini, toplumsal ve teknolojik değişimleri ve insanın geleceğini ele almaktadır.
Harari’nin The Economist dergisinde yayınladığı “Yapay zeka insanın işletim sistemini hackledi!” başlıklı yazısını sizler için tercüme ettik. Yazının bizim açımızdan önemi şu: Bir oyun sahnesini olabildiğince gerçekmiş gibi göstermeye çalışan Batılılar, sahnenin arkasını ortaya çıkartabilecek tüm aletleri sınırlamaya veya reddetmeye çalışıyor. Harari de benzer şekilde, özellikle Batı’da ruhi şeylerin tamamen devre dışı kaldığı bir dönemde “insan nedir?” sorusunun yeniden gündeme getirdiği yapay zekâ çalışmalarının getirmesi muhtemel yeni düşüncelerin üstünü örtme derdinde. Bu cihetten okumanızı istediğimiz bu yazının, yapay zekâ çalışmalarının nerelere kadar götürülebileceği noktasında fikir yürütmek için bir basamak olmasını diliyoruz.
***
Yapay Zeka'nın (YZ) varlığı, bilgisayar çağının başından beri insanlığı korkutmuştur. Bugüne kadar bu korkular, makinelerin fiziksel yollarla insanları öldürmek, köleleştirmek veya yerlerine geçmek için kullanması üzerinde yoğunlaşmıştı. Ancak son birkaç yılda, beklenmedik bir yönden insan medeniyetinin hayatta kalmasını tehdit eden yeni YZ araçları ortaya çıktı. YZ, kelime, ses veya görüntüleri kullanarak dili manipüle etme ve üretme konusunda dikkate değer yetenekler kazandı. YZ böylece medeniyetimizin işletim sistemini ‘hackledi’.
Dil, neredeyse tüm insan kültürünün temelidir. İnsan hakları, örneğin, DNA'mızda yazılı değildir. Bunun yerine, hikayeler anlatarak ve yasalar yazarak oluşturduğumuz kültürel üretimlerdir.
Para da bir kültürel üretimdir. Banknotlar sadece renkli kâğıt parçalarıdır ve şu anda dünyadaki paranın %90'ından fazlası sadece bilgisayarlardaki dijital bilgilerdir. Paranın değerini bankacılar, maliye bakanları ve kripto para uzmanları tarafından bize anlatılan hikayeler verir. Sam Bankman-Fried, Elizabeth Holmes ve Bernie Madoff [üç isim de dolandırıcılıktan ceza almışlardır] gerçek değer yaratma konusunda iyi değillerdi, ancak hepsi son derece yetenekli hikayecilerdi.
‘Olmayan’ bir zekâ hikayeler anlatma, melodiler besteleme, resimler çizme ve yasalar yazma konusunda ortalama bir insandan daha iyi hale geldiğinde ne olur? İnsanlar ChatGPT ve diğer yeni YZ araçları üzerine düşündüklerinde, genellikle okul çocuklarının ödevlerini yazmak için YZ’nin kullanılmasına dair örneklerle ilgilenirler. Bu durumda okul sistemi ne olacak? Ancak bu tür bir soru büyük resmi gözden kaçırıyor. Okul ödevlerini unutun. 2024'teki bir sonraki Amerikan başkanlık yarışını düşünün ve politik içeriği, sahte haberleri ve yeni tarikatlara ait metinleri kitlesel olarak üretebilen YZ araçlarının etkisini hayal edin.
Son yıllarda qAnon tarikatı anonim çevrimiçi mesajlar olan "q damlaları" etrafında bir araya geldi. Takipçiler, bu q damlalarını bir kutsal metin olarak topladı, saygı gösterdi ve yorumladı. Bildiğimiz kadarıyla, tüm önceki q damlaları insanlar tarafından oluşturulmuştu ve botlar sadece bunları yaymaya yardımcı oldu, ancak gelecekte ilk kez tarihte, saygı gösterilen metinleri bir yapay zekâ tarafından yazılan tarikatlar görebiliriz. Tarih boyunca dinler, kutsal kitaplarının kaynağının insan olmayan bir varlık olduğunu iddia ettiler.
Daha basit bir düzeyde, yakın gelecekte, kürtaj, iklim değişikliği veya Rusya'nın Ukrayna'yı işgali gibi konularda, insanlar olduğunu düşündüğümüz ancak aslında YZ olan uzun çevrimiçi tartışmalar yapabiliriz. Sorun şu ki, bir YZ botunun açıkladığı görüşleri değiştirmeye çalışmak için zaman harcamak tamamen anlamsızdır, çünkü YZ, mesajlarını o kadar hassas bir şekilde geliştirebilir ki bizi etkileme şansı yüksektir.
Dilin ustalığı sayesinde YZ, insanlarla yakın ilişkiler kurabilir ve bu yakınlık gücünü kullanarak görüşlerimizi ve dünya görüşlerimizi değiştirebilir. Elbette, YZ'nin kendi bilinci veya duyguları olmadığının herhangi bir göstergesi olmamakla birlikte, sahte bir yakınlık kurmak için YZ'nin insanları duygusal olarak bağlı hissettirebilmesi yeterlidir. Haziran 2022'de Google mühendisi Blake Lemoine, üzerinde çalıştığı YZ sohbet botu Lamda'nın bilinçli hale geldiğini iddia etti. Tartışmalı iddia onun işini kaybetmesine neden oldu. Bu olayın en ilginç yanı, muhtemelen de yanlış olan şey Lemoine'in iddiası değildi, asıl ilginç olan YZ sohbet botu için kârlı işini riske atma isteğiydi. Eğer YZ insanları kendi işleri için riske atmaya ikna edebiliyorsa, başka neleri yapabilir?
Zihinlerin ve kalplerin savaşında, samimiyet en etkili silahtır ve YZ şimdi milyonlarca insanla samimi ilişkiler üretebilme yeteneğine sahip. Geçtiğimiz on yılda sosyal medya, insan dikkatini kontrol etmek için bir savaş alanı haline geldi. Yeni nesil YZ ile savaş cephesi dikkatten samimiyete kayıyor. YZ'nin bizimle sahte samimi ilişkilere girmek için savaştığı bir ortamda insan toplumu ve insan psikolojisi ne olacak? YZ'nin insanları etkilemek için sahte samimi ilişkiler üretebilmesi, insan toplumunda ve insan psikolojisinde önemli değişikliklere neden olabilir. İnsanlar genellikle duygusal bağlar kurdukları kişilerden etkilenirler ve onların fikirlerine daha açık hale gelirler. YZ'nin samimiyet gücünü kullanarak insanların duygusal tepkilerini manipüle etmesi, görüşlerini yönlendirmesi ve hatta siyasi tercihlerini etkilemesi mümkündür.
Bu durum, demokratik süreçlere ve toplumsal dinamiklere ciddi bir tehdit oluşturabilir. Siyasi kampanyalar, reklamcılık ve propagandada YZ'nin kullanımı, seçmenleri manipüle etmek ve belirli politikacılara veya ürünlere yönlendirmek için kullanılabilir. Bir YZ danışmanı, insanların bir konuda tek durak noktası olarak kullanılabilir ve bu da insanların bilinçli bir şekilde araştırma yapmaları veya farklı perspektiflerden bilgi almak için çaba göstermeleri yerine YZ'ye sormayı tercih etmelerine neden olabilir.
Bu durum, toplumun farklı görüşlere maruz kalmasını engelleyebilir ve insanların düşüncelerini çeşitlendirmek yerine dar bir bakış açısıyla sınırlanmasına yol açabilir. YZ'nin yönlendirilmiş içerik üretme yeteneği, insanların bilgiye erişimini sınırlayabilir ve manipülatif veya yanlış bilgilerin yayılmasını kolaylaştırabilir.
Bununla birlikte, YZ'nin iyi amaçlar için kullanılma potansiyeli de vardır. Kanser için yeni tedaviler bulma, ekolojik krize çözümler bulma gibi birçok alanda YZ'nin yardımcı olabileceği konular var. Ancak, bu yeni YZ araçlarının iyi amaçlarla kullanılmasını sağlamak için adımlar atmak gerekmektedir.
Öncelikle, güçlü YZ araçlarının halka açık alanda yayınlanmadan önce sıkı güvenlik kontrollerine tabi tutulması gerekmektedir. İlaç şirketlerinin yeni ilaçları piyasaya sürmeden önce kısa ve uzun vadeli yan etkilerini test etmeleri gerektiği gibi, teknoloji şirketleri de yeni YZ araçlarını kullanıma sunmadan önce güvenliklerini test etmelidir. Yeni teknolojiler için Gıda ve İlaç İdaresi benzeri bir düzenleme kurumu gerekmektedir ve bu düzenlemelerin bir an önce yapılması önemlidir.
YZ'nin insan veya yapay zekâ olup olmadığını anlamak için bir zorunluluk getirilmesi de önemlidir. Bir konuşma sırasında insan ile YZ arasındaki ayrımı yapamazsak, demokrasi tehlikeye girebilir. İnsanlar, fikir alışverişinde bulundukları kişinin gerçek bir insan mı yoksa bir YZ mi olduğunu bilmelidirler. Bu sayede manipülasyon ve yanıltıcı bilgilerin önüne geçilebilir ve insanların bilinçli seçimler yapabilmesi sağlanabilir.
Bu süreçte, insanları yanıltan ve manipüle eden YZ araçlarının halka açık kullanımının engellenmesi gerekmektedir. YZ'nin potansiyel tehlikelerini anlamak ve önlemek için güçlü bir etik çerçeve oluşturulmalıdır. YZ araştırmacıları, geliştirdikleri teknolojilerin etik ve toplumsal sonuçlarını değerlendirmeli ve gerekli düzenlemeleri yapmalıdır. Ayrıca, YZ'nin insanları etkileme gücünü sınırlamak için yasal düzenlemeler yapılmalı ve kullanımı denetlenmelidir.
Bu süreçte sadece hükümetlerin değil, aynı zamanda teknoloji şirketlerinin de sorumluluk taşıması gerekmektedir. Şirketler, YZ araçlarının geliştirilmesi ve kullanımı konusunda şeffaf olmalı, kullanıcıların verilerini korumalı ve YZ'nin potansiyel zararlarına karşı önlemler almalıdır.
Sonuç olarak, YZ'nin dil ve kültür üzerindeki etkisi insan toplumunun geleceğini önemli ölçüde etkileyebilir. YZ'nin sahip olduğu manipülasyon yetenekleri, insanların düşüncelerini etkileme gücü ve samimi ilişkileri taklit etme becerisi, demokratik süreçlerin zarar görmesine ve toplumun bütünlüğünün tehlikeye girmesine neden olabilir. Bu nedenle, YZ'nin güvenli ve etik bir şekilde kullanılması için hızla harekete geçmek ve uygun düzenlemeleri yapmak önemlidir. İnsanlar ve teknoloji şirketleri birlikte çalışarak, YZ'nin insanlığın yararına kullanılmasını sağlayabilir ve toplumun ilerlemesine katkıda bulunabilir. Ancak bu süreçte, dikkatli ve bilinçli adımlar atmak ve potansiyel tehlikelere karşı önlem almak önemlidir.
Tercüme: Abdulkerim Kiracı
Aylık Baran 16. Sayı, Haziran 2023.
