Harvard’lı ekonomist Zoë Hitzig, siyasi ve psikolojik manipülasyon endişelerini gerekçe göstererek OpenAI’dan ayrıldı. Yapay zekâ ile olan ilişkimizi tanımlamak için zamanın neden daraldığını açıklıyor.
Zoë Hitzig, yapay zekânın nasıl bir yapıya kavuşacağını şekillendirmek için yaklaşık beş yıllık bir zaman aralığımız olduğunu söylüyor: en önemlisi, kimin elinde olacağı ve kimin denetleyeceği. Hitzig, geçen ay Sam Altman’ın OpenAI’sından, şirketin ChatGPT’ye reklam ekleme kararını protesto etmek amacıyla istifa ettiğinde, bir kriz noktasına geldiğimizi uyardı. Hitzig, New York Times’ta yazdığı yazıda, OpenAI’nin reklamcılığının “benzeri görülmemiş bir insan samimiyeti arşivi” üzerine kurulacağını, bunun nedeninin ise “kısmen insanların, gizli bir gündemi olmayan bir şeyle konuştuklarına inanmaları” olduğunu belirtti. ChatGPT’nin haftalık 800 milyon kullanıcısı iş hakkında konuşmak istemiyor; en derin korkularını ve sırlarını, yalnızlıklarını ve ihtiyaçlarını paylaşıyorlar. Tüm bunları paraya çevirmek, Papa’nın bir trilyon günah çıkarma satışı yaptığını açıklaması gibiydi.
Aynı hafta OpenAI’nin rakibi Anthropic’in güvenlik araştırma ekibi başkanı Mrinank Sharma da “dünya tehlikede” uyarısında bulunarak istifa etti; bunun yerine şiir yazmayı planladığını açıkladı.
Hitzig, “Herkes yapay zekâdan bahsediyor ve bu konuşmaların çoğu çok uzun vadeli bir bakış açısına odaklanıyor: ‘Bir gün hepimiz işsiz kalacağız. Bir gün yapay zekalar biyolojik silah üretebilir.’ Yöneticiler, uzak bir gelecekte yaşanacak gibi görünen sorunlardan bahsetmeyi seviyorlar, çünkü bunlar dikkatimizi başka yöne çekiyor. Ve sonra, şu anda olan şeyler var ki, bunlar şok edici ama bir model olarak görmek zor – bir [AI] psikoz vakası, bir intihar. Benim yapmak istediğim şey, biraz ileriyi düşünebileceğimiz ama somut kalabileceğimiz o ara noktayı doldurmaya yardımcı olmak.” ifadelerini kullandı.
Harvard Üniversitesi’nden ekonomi doktorası olan ödüllü şair Hitzig,Altman’ın kovulup ardından OpenAI yönetim kurulu tarafından yeniden CEO olarak işe alınmasından birkaç ay sonra, 2024 yılının başlarında şirkete katıldı. Gizlilik anlaşması imzaladığı için bireyler hakkında konuşamayan Hitzig, onun yerine, “O olayın etkilerinin yaklaşık bir yıl sürdüğü yaygın olarak biliniyor. Darbe gibi dramatik bir olay değildi, ancak hala çözülmesi gereken başka sorunlar vardı.” dedi. 2024 yılı boyunca üst düzey çalışanlar diğer start-up’lara göç etti.
Hitzig, AI’nın orta vadeli etkileri üzerine araştırmalar yürüttüğünü ve bunu başlangıçta bu eğlenceli bulduğunu belirtti. Örneğin, “kişilik kimlik bilgileri”ni araştıran bir proje: botlar giderek daha sofistike hale gelirken, büyük miktarda kişisel veri paylaşmadan çevrimiçi ortamda insan olduğunuzu nasıl kanıtlarsınız? “Zaten captcha’ları dolduruyoruz. Captcha, insanlar için kolay ama botlar için zor olan bir test olduğu fikrine dayanır. Bu artık bitti.” Bunun yerine, Hitzig’in ekibi, şahsen kayıt olabileceğiniz bir kimlik (“hiçbir robotun taklit edemeyeceği bir kayıt”) üzerinde çalıştı ve bu kimlik, izlenemeyen bir kod oluşturmak için şifreleme kullanıyordu: “Pasaport numaranızın veya retinanızın kriptografik bir hash’i olabilir, ancak biyometrik çözümleri sevmedik.”
Hitzig, San Francisco’yu yapay zekaya takıntılı bir şehir olarak tasvir ediyor. Pacific Heights’taki lüks evlerde “çılgın” yapay zeka akşam yemeği partileri, Hayes Valley’de hacker buluşmaları vardı; herkes, kendilerine avantaj ve dolayısıyla servet kazandırabilecek tek bir bilgi parçası ya da iş bağlantısı için birbiriyle yarışıyordu. “Kahve dükkanlarında bile insanlar en son lansmandan bahsediyordu – bu durum boğucu ve her yerde hissediliyordu. Biri, şu ya da bu Google yöneticisiyle konuştuğunu ya da şu robotik demosuna gittiğini övünürdü. Tüm o akşam yemekleri için asıl ilginç soru şuydu: Birlikte ne olmasını istediğinizi belirleyebilecekken, neden ne olacağını anlamaya bu kadar uğraşıyorsunuz? Bunu daha çok bir vizyonu paylaşmak üzerine kuralım.”
Bu sahnenin önderleri, baş döndürücü servetleri ve sıradan görünümleriyle etraflarında bir gizem havası yaratmış durumda: Bu yıl, Altman’ı konu alan bir film (Luca Guadagnino’nun yönettiği Artificial), yapay zeka savunucusu ve dolandırıcı Sam Bankman-Fried’i anlatan bir Netflix dizisi (The Altruists) ve Mark Zuckerberg’i konu alan Aaron Sorkin’in The Social Network filminin devamı vizyona girecek. Hitzig, gerçekliğin Hollywood versiyonundan hem daha sıradan hem de daha endişe verici olduğunu söylüyor. “San Francisco’da bu mitleri ve rönesansın merkezinde oldukları hissini sürdürmekten heyecan duyan insanlar var. Ama benim için bu, kötü aydınlatmalı ve kimsenin içki içmediği ofis binalarına ve teknoloji çalışanlarının partilerine gitmekti.”
Endişe verici olan nokta, yapay zeka dünyasının gerçeklerden ne kadar kopuk olduğuydu. “İnsanlar yapay zekanın nasıl bolca servet yağdıracağından bahsediyordu – tek yapmamız gereken bu serveti nasıl dağıtacağımızı bulmaktı. Oysa Sanayi Devrimi de bunu [vaat etmişti], ama biz serveti küresel ölçekte dağıtamadık. Bu sefer neden farklı olsun ki? Bu [tutum] her yerde yaygındı ve izlemesi zordu. İki akıllı telefonunuzdan gözlerinizi ayırıp etrafınıza bakarsanız, San Francisco’nun muazzam bir yoksulluğa sahip bir şehir olduğunu görürsünüz.”
Hitzig birçok yönden anti-teknoloji bir kadın ve dilin sınırları üzerine şiirler yazan bir yazar: ikinci şiir koleksiyonu Not Us Now (2024), Nobel ödüllü Louise Glück’ün jüri üyeliği yaptığı bir yarışmada ödül (ve 10 bin dolar) kazandıktan sonra yayınlandı. Hitzig, OpenAI tarafından kısmen bu nedenle işe alındığını düşünüyor mu? Makine öğreniminizi eğitmesi için en insanımsı insanları arıyorsanız, gidip bir şairi işe alabilirsiniz.
Hitzig ikna olmuş değil. “Bir işveren olarak ihtiyaç duyduğunuz ses ile veri olarak ihtiyaç duyduğunuz ses arasında bir fark var. Tüm yapay zekâ şirketlerinde, sadece daha fazla veriye değil, farklı türde verilere de ihtiyaç duydukları konusunda sağlam bir anlayış var. Buna, az bilinen dilleri ve bilgi türlerini bilen kişiler, yazarlar ve sanat tarihçileri bulmak da dahil.” Hitzig, Anthropic’in, büyük dil modeli Claude’un “kişiliğini” şekillendiren İskoç Amanda Askell dahil olmak üzere birçok filozofu işe aldığını belirtiyor. “Ancak bir filozofun en insani insan olduğunu düşünmüyorum,” diyor Hitzig. “Felsefeciler oldukça soyut ve hesapçı olabilirler.”
Askell kısa süre önce, Claude’un etik çerçevesinin bir haritası niteliğindeki 80 sayfalık bir “ruh belgesi” yazdığını açıkladı. Hitzig, Claude’un ChatGPT’den daha ahlaklı olduğunu düşünüyor mu? “Bu araçları geliştirenlerin neyi amaçladıkları konusunda öğrenecek çok şey olduğunu düşünüyorum. Eğer Claude’un ahlaki bir statüsü varsa, bu onu insanlığın bir parçası mı yapar? OpenAI’nin misyonu ‘genel yapay zekânın tüm insanlığa fayda sağlamasını sağlamak’tır, ancak insanlık konusundaki vizyonlarının gerçekte ne olduğunu tam olarak bilmiyorum. Sam Altman’ın insan zihnini eğitmek için gereken enerji tüketimini yapay zihni eğitmek için gereken enerji tüketimiyle karşılaştırdığını duyduğunuzda… Bizi gerçekten de kaynakları verimsiz tüketen varlıklar olarak mı görüyorsunuz?”
Bu yılın başlarında Hitzig, OpenAI’daki işini artık ne kendine ne de “AI’dan nefret eden sanatçı ve yazar arkadaşlarına” karşı haklı gösteremiyordu. OpenAI’nın aşırı dalkavukça ChatGPT-4’ün piyasaya sürülmesinin gösterdiği gibi, sosyal medyada yapılan hataların tekrarlanmaması için bir fırsatın kaçırıldığını hissediyordu: Kasım 2025’te, o zamandan beri piyasadan çekilen yeni modelle yoğun bir şekilde etkileşime girdikten sonra psikotik hale gelen veya intihar eden kişiler adına OpenAI aleyhine yedi dava açıldı.
“Yapay zekâ konusunda yeni hatalar yapacağımızı biliyordum, çünkü bu sosyal medyayla aynı şey değil,” diyor Hitzig. “Ancak önleyebileceğimiz bazı sorunlar var. Örneğin, psikometrik profilleri kullanarak etkileşimi en üst düzeye çıkarmamalıyız, çünkü bunun neye yol açacağını biliyorsunuz: yeme bozuklukları, siyasi manipülasyon, yalan haberler ve yalan haberlere dayalı şiddet. Sosyal ve psikolojik sonuçları anlamadan etkileşimi optimize etmek gerçekten tehlikelidir. Bu, insanların zihinleriyle kumar oynamaktır.”
Lansmanı ertelenen ChatGPT’nin erotik “yetişkin modu” hakkında ne düşünüyor?
“Belki tartışmalı bir görüşüm var, o da bir botla samimi olmanın korkunç bir şey olduğunu düşünmüyorum – herkesin kendi tercihi. Asıl endişe verici olan, sizin çıkarlarınızı gözetmeyen bir iş modeliyle samimi olmaktır.”
Hitzig, 2022’den beri Amerikan dergisi The Drift’in şiir editörlüğünü yürütüyor ve her sayısında yedi ya da daha fazla şiir yayınlıyor. Ya bir yapay zekâ tarafından yazılmış bir şiiri seçerse? Hitzig, bir şiirin iyi ya da kötü olup olmadığıyla daha çok ilgileniyor: İnsanlar da kötü şiirler yazıyor. “Biri ‘Bunu Claude yazdı’ derse, umurumda olmaz, çünkü eğer ilginç ve dokunaklıysa, Claude’a ilham veren kişi bir şeyler başarmış demektir.” Bir an durur: kendisine bir sürü yapay zeka şiiri gönderilmesini istemiyor. “Yani, bu kesinlikle bir skandal olur ve başa çıkılması zor bir durum olur.”
Ancak bir yapay zekâ komutu, “bana aşk hakkında bir şiir yaz” demekten çok daha yaratıcı olabilir, diye ekliyor. “Biri şöyle diyebilir: ‘Bana, Robert Browning’in şiirlerine benzeyen, dalgaların arasında gelen ve giden bir uçurtma sörfçüsünün yer aldığı, o uçurtma sörfçüsünün başka bir şeyi temsil ettiği bir aşk şiiri yaz.’ Tamam, şimdi işini yapıyorsun.”
Partneriyle birlikte doğu kıyısına dönen Hitzig, doktora sonrası araştırmalarına geri döndü, ancak yapay zeka sektörüne veda edip etmediğinden emin değil. “OpenAI’da, bu sektörün içinden birinin olması ne kadar değerli olduğunu gördüm; bu yüzden bir yanım bu işe bir şans daha vermek istiyor.” Her halükarda, beş yıl sonra kendi başına yazmaya devam etmeyi umuyor. “Çünkü beş yıl sonra, tüm önemli kararlar alınmış olacak.” En kötü senaryosu, günümüzden çok da uzak değil; “çok küçük bir grup insanın, herkes hakkında tonlarca bilgiye sahip olmaktan kaynaklanan olağanüstü ekonomik ve siyasi güce sahip olduğu” bir senaryo. “Bu, kapitalizmin tam bir başarısızlığından başka bir şey değil.” Daha umut verici vizyon ise, insanların bundan sonra ne olacağı konusunda söz sahibi olduğu bir vizyon.
Büyük dil modelleri olsun ya da olmasın, şiir hayatta kalacaktır. Sanatçıların nasıl geçimini sağlayacağı ise başka bir sorudur, diyor Hitzig, ama bu yeni bir soru değil. “Her zaman özgünlük ve orijinallik talebi olacaktır ve insanlık durumu sürekli evrim geçirmektedir. Her zaman güncellenmesi gerekir – ve ben bunun insanlar tarafından güncellenmesi gerektiğine inanmaya devam ediyorum.”
Umay Uçaner Gözüsarı