2019 yılında OpenAI, GPT-2 adlı yeni bir büyük dil modelinin eğitimini tamamladığında, yapay zekâ laboratuvarı ilk başta bu modelin piyasaya sürülmesinin çok tehlikeli olduğunu açıklamıştı. O dönem OpenAI’nin araştırma direktörü olan Dario Amodei, dünyanın buna hazırlanmak için zamana ihtiyacı olduğunu vurguluyordu.
Sonunda model, o yılın ilerleyen aylarında piyasaya sürüldü. O zamandan beri, kıyameti koparmadan çok daha güçlü bir dizi model geliştirildi. Ancak yedi yıl sonra, şu anda OpenAI’nin ezeli rakibi Anthropic’in başkanı olan Amodei, bir kez daha endişeli. 7 Nisan’da, laboratuvarının “Mythos” olarak adlandırılan Claude model ailesine en son eklenen modelin, henüz geniş kitlelere sunulamayacak kadar güçlü olduğunu açıkladı. Bu sefer haklı olabilir.
Anthropic’e göre, Mythos’un yetenekleri “daha önce eğittiğimiz herhangi bir modelinkinden önemli ölçüde öte”. Ancak laboratuvar, sistemin yazılım güvenlik açıklarını bulma ve bunları düzeltme (savunmacı olarak çalışacak şekilde ayarlanmışsa) ya da istismar etme (hacker olarak hareket ediyorsa) yeteneğinden özellikle endişe duyduğunu belirtiyor.
Bu tür iddialar normalde biraz şüpheyle karşılanmalıdır. Anthropic modeli geliştirdi, testleri gerçekleştirdi ve sisteminin öncekilerden çok daha üstün olduğu algısından fayda sağlamaya hazır. Laboratuvar son zamanlarda oldukça başarılı. 6 Nisan’da yıllık gelirinin geçen yılın sonunda sadece 9 milyar dolardan 30 milyar dolara ulaştığını duyurdu. Bu ivmeyi sürdürmek için kesinlikle istekli.
Yine de Anthropic’in son uyarılarını ciddiye almak için nedenler var. Bunlardan ilki, bu uyarıların ciddiyeti: Anthropic, Mythos’un “tüm büyük işletim sistemlerinde ve web tarayıcılarında” ciddi güvenlik açıkları tespit ettiğini belirtiyor; bunlardan biri 27 yıldır fark edilmeden kalmıştı.
İkincisi ise diğer şirketlerin tepkisi. Anthropic, bu ara vermenin yanı sıra, Mythos’un geniş çapta piyasaya sürülmeden önce şirketlerin siber savunmalarını güçlendirmelerine yardımcı olmayı amaçlayan Project Glasswing’i duyurdu. Apple, Linux Foundation ve CrowdStrike’ın yanı sıra, yapay zekâ alanında Anthropic ile doğrudan rekabet eden Google gibi önde gelen yazılım geliştiricilerinin katılımı, bu tehdidin ciddi olduğunu gösteriyor.
Amodei’nin tehlikeyi azaltmaya yönelik yaklaşımı mantıklı. Erken erişim imkânı verilirse, yazılım şirketleri Mythos’u kullanarak yayınlanmamış kodları zayıflık açısından test edebilir ve yayınlanmadan önce bunları düzeltebilir. Yine de Anthropic’in Project Glasswing’den kazanacağı çok şey var. Laboratuvar, girişim için modelin kullanımından kaynaklanan ilk 100 milyon dolarlık hesaplama maliyetini karşılayacak. Ancak sonunda katılımcılardan Mythos’u kullanmak için önceki model Opus’a göre beş kat daha fazla ücret talep edecek.
Bu, ödenmeye değer bir bedel olabilir. Anthropic’in rakipleri er ya da geç benzer siber saldırı yeteneklerine sahip modeller geliştireceklerdir. OpenAI ve Google gibi diğer öncü laboratuvarların kendi makul yayın politikaları vardır. Ancak açık kaynaklı laboratuvarlar, özellikle de Çin merkezli olanlar, güvenliğe daha az önem verme eğilimindedir.
Project Glasswing’den rahatsız olabilecekler sadece hackerlar değil. ABD hükümeti uzun zamandır rakiplerinin siber savunmalarındaki zayıflıkları istismar etmeye çalışıyor. Bu genellikle, sözde “sıfır gün” saldırılarının en büyük etkiyi yaratacağı bir zamanda kullanılmak üzere, Amerikan yazılımları da dahil olmak üzere keşfedilmemiş güvenlik açıklarını biriktirmek anlamına geliyor. Project Glasswing işe yararsa, ABD’nin siber silahlarının çoğunu etkisiz hale getirebilir.
Bu durum, bu yılın başlarında laboratuvarın modellerinin askeri amaçlarla kullanımına getirilen sınırlamalar konusunda Pentagon ile yaşadığı anlaşmazlığın ardından Anthropic’i tedarik zinciri riski olarak nitelendiren ABD Savunma Bakanı Pete Hegseth’i kesinlikle öfkelendirecektir (bir yargıç, o zamandan beri “Orwellian” tanımlamasını geçici olarak engellemiştir). Amodei, Hegseth için bir baş belası olmaya devam edebilir.
Umay Uçaner Gözüsarı