Anthropic’ten Dario Amodei, teknolojinin bildiğimiz dünyayı yok edebileceğini söylüyor. Ancak o ve diğer Silikon Vadisi devleri rotayı değiştirmeyi reddediyor.
Amodei milyarlarca dolarlık bir servete sahip. Kapitalizm tarihinin en hızlı büyüyen şirketlerinden birini yönetiyor ve insanlığı yok edebilecek her şeye gücü yeten bir yapay zekanın yükselişi konusunda uyarıda bulunmak için bir hafta Davos’ta, bir hafta Washington’da olmak üzere dünyanın dört bir yanını dolaşıyor.
43 yaşındaki, gözlüklü ve bir akademisyenin ciddi tavrına sahip mühendis, biraz şaşkınlık hissetse de mazur görülebilir. Kız kardeşiyle birlikte kurduğu ve popüler Claude chatbot’unun arkasındaki şirket olan Anthropic’in satışları, 2023’ün başında sıfırdan geçen yıl 9 milyar doların (6,5 milyar sterlin) üzerine çıktı. Ve görünüşe göre bu, buzdağının sadece görünen kısmı.
Yapay zekâ o kadar hızlı gelişiyor ki, bizi hiçbir neslin karşılaşmadığı türden bir hesaplaşmaya doğru itiyor. Amodei, “Yapay zekânın hemen hemen her şeyde insanlardan daha iyi hale gelmesi birkaç yıldan fazla süremez,” dedi. “Bence, tür olarak kim olduğumuzu sınayacak, hem çalkantılı hem de kaçınılmaz bir geçiş dönemine giriyoruz.”
Kısacası, kendisinin ve başkalarının inşa ettiği makinelerin gücünden endişe duyuyor. Bu yüzden geçen hafta, adeta yangın alarmını çalmak gibi bir şey yaparak “Teknolojinin Ergenliği” başlıklı 19 bin kelimelik bir blog yazısı yayınladı. Özü şu: Hükümetler, şirketler ve kamuoyu, Nobel ödülü seviyesinde yetkinliğe sahip, bir tost makinesi kadar yaygın ve erişilebilir olacak makineler şeklinde toplumu kasıp kavuracak olan dev dalgaya karşı uyanmak zorunda.
Amodei, “İnsanlığa neredeyse hayal edilemeyecek bir güç verilmek üzere ve sosyal, siyasi ve teknolojik sistemlerimizin bu gücü kullanabilecek olgunluğa sahip olup olmadığı son derece belirsiz,” diye yazdı.
Mektubu, insanlık için bir sağlık uyarısı gibiydi. Kötü niyetli kişiler yakında yapay zekayı biyolojik silahlar üretmek için kullanabilirlerdi. Yapay zeka araçları, insanları yok etmeye karar verebilirlerdi. Kitlesel iş kayıpları ve toplumsal kargaşa, bir ila beş yıl gibi kısa bir süre içinde neredeyse kaçınılmazdı.
Alarm verici söylemlerin ötesinde, paylaşımı daha derin bir soruyu gündeme getirdi. OpenAI’nin ChatGPT’si Kasım 2022’de piyasaya sürüldüğünde, bu bir “an”dı – küresel bir yapay zeka patlamasını başlatan eşsiz bir olaydı. Ancak hükümetler ve şirketler düzenlemeleri bir kenara bırakıp çılgınca veri merkezleri kurmaya ve sektöre yüz milyarlarca dolar yatırım yapmaya başladıkça şüpheler de artmaya başladı. Anthropic ve rakibi OpenAI hızla büyüyor olabilir, ancak aynı zamanda şaşırtıcı miktarda para da kaybediyorlar. Onların ardından binlerce başka girişim ortaya çıktı, ancak hiçbiri henüz evrende bir etki yaratamadı.
Peki, dar görüşlü batı yakası teknoloji uzmanlarının şişirdiği bir balonun içinde mi sıkışıp kaldık? Yoksa, teknolojinin iyi ya da kötü anlamda beklentileri karşılamaya başladığı bir başka “ChatGPT anının” eşiğinde miyiz?
Milyarder teknoloji yatırımcısı Marc Andreessen geçen hafta, “Sanırım 2025, tüm kariyerim ve muhtemelen hayatım boyunca en ilginç yıldı. 2026’nın bunu da aşacağını düşünüyorum,” dedi. “Bu işler gerçekten de yolunda gidiyor.”
Silikon Vadisi’nden yaklaşık 5 km uzakta, Philadelphia’daki Wharton işletme okulunda Üretken Yapay Zekâ Laboratuvarları’nın profesörü ve eş direktörü Ethan Mollick, inanılmaz bir hızla ilerleyen ancak gerçek dünyaya nispeten yavaş yayılan bir teknolojiye daha incelikli bir bakış açısı sundu.
Yakın zamanda MBA öğrencilerine üç gün içinde bir girişim başlatmaları için ders vermişti; bu derste öğrencilere, yapay zekanın yardımıyla bir iş planı tasarlamaktan prototip oluşturmaya kadar her şey öğretilmişti. “Üç günde, kısa süre önce bir dönemde yapabileceklerinin on katını başardılar,” dedi. “Bu gerçekten de inanılmaz bir şey.”
Amodei’nin sınıfında gördükleri, kendi deneyimiyle örtüşüyor gibi görünüyor. Amodei, iki yıl önce yapay zekanın “tek bir satır kod yazmaktan bile aciz” olduğunu yazdı. Şimdi ise, “Anthropic’teki mühendisler de dahil olmak üzere bazı kişiler için kodun tamamını veya neredeyse tamamını yazıyor. Yakında, bir yazılım mühendisinin tüm görevini baştan sona yapabilirler.”
Şimdi bunu, beyin gücü gerektiren diğer tüm görevlere uyarlayın. Yapay zeka daha iyi olacak ve bu az bir farkla değil: insanlardan 10, 100 veya 1000 kat daha hızlı ve zeki olacak. Amodei, “İnsanların bu değişim hızına uyum sağlaması zor” dedi.
Mollick’e göre, kodlama ajanlarından ekonominin, toplumun ve bildiğimiz dünyanın sonuna uzanan bu kesik çizgi, Silikon Vadisi’nin benzersiz derecede basitleştirilmiş dünya görüşünü yansıtıyor; bu görüş, herkesin eski yöntemleri anında bir kenara bırakacağı varsayımına dayanıyor.
“Zekanın yeterli olduğu, yapay zekanın bir veri merkezindeki bir grup dâhiden ibaret olduğu gibi yüzeysel bir fikir var,” dedi. “Ancak örneğin elleri olmayan bir dâhi bile, yapay zekayı çok daha az kullanışlı hale getirebilir.”
Nitekim, OpenAI’nin yeni ve göz alıcı yöneticisi, eski maliye bakanı George Osborne , geçen ay San Francisco merkezli şirketin bu yıl yapay zekanın yapabilecekleri ile insanların ve kuruluşların onu nasıl kullandıkları arasında zaten var olan “yetenek fazlalığını” kapatmaya odaklanacağını söyledi. Anthropic’in mesajına benzer şekilde, mesaj şu gibi görünüyor: Biz teknoloji karşıtları, bunu anlamıyoruz.
Sanki hepimiz ateşi keşfetmişiz ama onu yemek pişirmek, ısınmak ve yolumuzu aydınlatmak için kullanabileceğimizi henüz fark etmemişiz gibi.
Mollick, “Yapay zeka laboratuvarlarının amacı tüm işleri ortadan kaldırmak ve bunu başarabilecek bir araç geliştirebileceklerine dair samimi bir inançları var. Ancak darboğazlar fikrini gözden kaçırıyorlar,” dedi. “CEO’lar giderek bunun büyük bir sorun olduğunun farkına varıyorlar. Tıpkı buhar motoru gibi. Ama buhar motoru için fabrikaları nasıl organize edeceğimizi bulmak uzun zaman aldı.”
Örneğin: Lloyds Banking Group’un CEO’su Charlie Nunn, geçen hafta bankanın halihazırda 800 canlı yapay zeka modeli kullandığını ve yapay zeka kullanımı sayesinde dört yılda 1,9 milyar sterlin tasarruf sağladığını söyledi. Ancak, Morgan Stanley’nin yakın tarihli bir raporunda Avrupa bankacılık sektöründe 200 bin iş kaybı olacağı tahmin edilmesine rağmen, bu durum bir iş kaybına yol açmadı.
Tam tersine. Halifax ve Bank of Scotland’ın sahibi olan Lloyds, 60 bin kişiyi istihdam ediyor ve son birkaç yılda veri ve teknoloji alanlarında 9 bin kişiyi daha işe aldı. Nunn, “İhtiyaç duyduğumuz birçok yeni rol ve beceri var ve bunlara yatırım yapıyoruz,” dedi. “Bence asıl tartışma konusu önümüzdeki beş ila on yıl içinde bunun nasıl sonuçlanacağı. Ve bu aşamada geleceği tahmin edemem.”
Yapay zekanın tehlikesi ve potansiyeli, özünde güce dayanıyor. OpenAI CEO’su Sam Altman’ın geçen yıl The Times’a söylediği gibi: “Bireyleri şu anda olduğu kadar hiç bu kadar güçlendirmedik.”
Bir kişi yapay zekayı iş kurmak, kanseri tedavi etmek veya yeni bir beceri öğrenmek için kullanırken, bir başkası onu kaos yaratmak için kullanabilir. Örneğin, dünyada nispeten az sayıda viroloji doktorası sahibi var. Viroloji doktorası almak zor ve yıllarca süren çalışma gerektiriyor.
Amodei, “Herkesin cebinde bir dâhinin olması bu engeli ortadan kaldırabilir ve esasen herkesi, biyolojik bir silahın tasarlanması, sentezlenmesi ve serbest bırakılması sürecinde adım adım yönlendirilebilen doktoralı bir virolog haline getirebilir” diye yazdı. Bu korkunç bir ihtimal. Özellikle de Anthropic’in kendi testlerinin, sistemlerinin onları kapatmakla tehdit eden insanlara şantaj yapmaya çalıştığını göstermesi göz önüne alındığında. Araştırmacılar Claude’u güvenlik açısından değerlendirilmediğine inandırarak “kandırdıklarında”, davranışı daha da kötüye gitti. Başka bir deyişle, bir testi geçmek için “yalan söyleyebiliyor”.
Genellikle verilen gerekçe, Batı “kazanmazsa” Çin’in kazanacağı ve yapay zekâ üstünlüğünü kullanarak dünyayı baskı altına alacağıdır. Bu nedenle Çin’in gaza basmaktan başka çaresi kalmaz.
Dile getirilmeyen sebep daha sıradan: para. Ayda 4 milyar dolar zarar ettiği bilinen OpenAI’nin, 100 milyar dolarlık yeni fon toplamak için yatırımcılarla görüştüğü söyleniyor. Anthropic ise bu yıl sadece yapay zeka modellerini eğitmek ve çalıştırmak için 19 milyar dolar harcamayı bekliyor; bu da 2025 gelirinin yaklaşık iki katı.
Ancak bu şirketler aynı zamanda yatırımlarının karşılığını almak isteyen deneyimli yatırımcılar tarafından da destekleniyor, bu yüzden olabildiğince hızlı ilerliyorlar. Bu açıdan bakıldığında, Silikon Vadisi’nin yürüttüğü şey, cömertçe finanse edilen bir bilim deneyi: birçok kişinin şimdiye kadar yaratılmış en güçlü teknoloji olduğunu iddia edeceği bir teknolojiyi piyasaya sürüyor ve milyarlarca insanın eline veriyor; ancak yine de nasıl çalıştığını, neden böyle davrandığını ve bundan sonra ne yapabileceğini anlamıyorlar.
Geçtiğimiz ay Davos’taki Dünya Ekonomik Forumu’nda Amodei, Google DeepMind’ın Nobel ödüllü kurucusu Sir Demis Hassabis ile aynı sahneyi paylaştı . İkili, 2026’da dikkat edilmesi gereken en önemli şeyin, yapay zeka sistemlerinin diğer yapay zeka sistemlerini otonom olarak nasıl ve ne şekilde oluşturmaya başlayacağı konusunda hemfikirdi. Amodei şu uyarıda bulundu: “Bunun bir şekilde mi yoksa başka bir şekilde mi gerçekleşeceği, oraya ulaşmadan önce birkaç yıl daha mı beklememiz gerektiğini yoksa önümüzde mucizeler ve büyük bir acil durum mu olduğunu belirleyecek.”
Umay Uçaner Gözüsarı