ANALİZ - Süper yapay zeka yarışında içsel kriz ve mahkumun ikilemi

İstanbul Haberleri : Niğde Ömer Halisdemir Üniversitesi Öğretim Üyesi ve SETA Kıdemli Araştırmacısı Prof. Dr. Cenay Babaoğlu, yapay zekanın geleceğine ilişkin artan risk tartışmalarını AA Analiz için kaleme aldı.

***

9-10 Eylül 2026 tarihleri, yapay zeka dünyasında uzun süredir halı altına süpürülen varoluşsal risklerin 24 saat gibi kısa bir sürede küresel kamuoyunun gündemine oturduğu tarihsel bir kırılmaya sahne oldu. 9 Eylül’de hem OpenAI hem Anthropic şirketlerinde çalışmış Jacob Coxon isimli mühendis, yapay zeka çalışmalarının insanlığın sonunu getirebileceğine dair risklerden bahsederek istifa manifestosu yayımladı. Açıklamasında şirketlerin yapay zekanın risklerini bilmelerine rağmen gelişim hırsları nedeniyle durmadıklarını, çoğu şirket çalışanının yapay zekanın geleceğine dair korku içinde olduğunu iddia etti.

Yapay zeka rekabetinde içeriden gelen uyarılar ve kozmetik tedbirler

İstifa açıklamasının sosyal medyada yayılmasının ardından Anthropic şirketinin üst düzey araştırmacılarından Evan Hubinger, Yapay zekanın 10 yıl içinde tüm insanları öldürebileceği ihtimaline inanıyoruz. diyerek Coxon’un görüşlerini teyit etti. Sonrasında ardı ardına farklı şirketlerden aktif görevde ya da görevden ayrılmış isimler, bu iddiaları teyit ederken yapay zekanın gelişimine dair korkulu senaryolardan dem vurdu.

Bu açıklamalarda süper yapay zekaya dair hizalama ve denetim sistemi kurulmadan gelişimin devam etmesinin, sonunda insanların kontrol edebileceği sınırların aşılmasına neden olacağı düşüncesi en çok zikredilen görüş oldu.

Bu alanda çalışan, tanınan yetkili araştırmacıların, mühendislerin arka arkaya yaptığı açıklamalarla süper yapay zeka yarışına bir mola ihtiyacı fikri, küresel ölçekte gündem oldu. Şirketlerin denetlenmesi gereği, insanlığı korumak için sınırlar çizilmesi zorunluluğu genel politika hedefi haline geldi.

Tartışmaya siyasetçiler, sivil toplum örgütleri ve akademisyenler de dahil oldu. ABD’li Senatör Bernie Sanders, süper zekayı ve geliştirme faaliyetlerini durduracak bir yasa hazırladığını duyurdu. Farklı senatörler, Temsilciler Meclisi üyeleri, konu hakkında eleştirel görüşler paylaştı. Aynı şekilde Kanada ve İngiltere gibi ülkelerin siyasetçilerinden de tepkiler geldi. Bu süreçte tepkileri dindirmek adına yapay zeka alanında saygın bir yeri olan, denetleyici görüşleriyle tanınan Paul Christiano, OpenAI Vakfı Kuruluna ve Güvenlik Komitesine alındı. Christiano, yaptığı açıklamayla riskleri kabul ettiğini söyledi ve gerektiğinde önlemlerin alınmasına dair görüşlerini tekrarlayarak İşbaşındayız imajı çizdi.

Anthropic tarafı ise temmuz ayında yaşanan güvenlik açıklarına ve güvenli alandan internete sızan modellere dair inceleme değerlendirmesi yayımladı ve yapay zeka modellerini test eden bağımsız Model Değerlendirme ve Tehdit Araştırmaları (METR) Merkezi tarafından bağımsız soruşturma yapılacağını açıkladı. Anthropic, aynı zamanda 2030 Ekonomi modelini de paylaşarak yapay zekanın küresel ekonomiye yönelik olası katkılarını da senaryolar halinde yayımladı. Şirketin bu belgelerinde yapay zekanın dünya ekonomisini katlayarak büyüteceği iddialarına dair senaryolar yer aldı.

Anthropic ve OpenAI şirketleri tarafından bir günde atılan adımlar, bir yandan yapay zekanın ekonomiye yönelik katkılarına dair paylaşımlar diğer yandan yapay zekanın kontrol edildiğine ya da edileceğine dair imaj girişimleri, ortaya çıkan devasa tepkiyi yönetme çabaları olarak okunabilir. Diğer taraftan bu adımları kozmetik tedbirler olarak değerlendirilmek daha münasip çünkü her iki şirket de hem çalışanlar hem de yönetenler düzeyinde risklerin farkında olsalar da durma niyetinde değiller. Aksine herkes bitiş noktasına daha önce varmanın yarışında.

Kontrol illüzyonunda yeni perde mi?

Anthropic CEO’su, süper yapay zekaya ulaşmak için 2027 yılını işaret ederken OpenAI CEO’su, 2026 yılı bitmeden bir gelişmenin yaşanacağını ifade etmişti. Şirketlerin temel amacı, herkesten önce hızla hedefe ulaşmak ancak ne pahasına bu amaç gerçekleştirilecek, ne tür maliyetler ortaya çıkacak tam olarak kestirmek güç çünkü kontrolden çıkacak bir süper yapay zekanın ne yapabileceğini, sınırının ne olacağını şirketler de öngöremeyecektir. Menzil, her ne kadar bir vaha olarak sunulsa da katetmeye çalışılan güzergah oldukça tehlikeli. Ayrıca sıla hayaliyle pusulasız tutulan bir rota, hızla bataklığa da çıkabilir. Bu nedenle henüz hassas hudutlar hasar görmemişken ciddi denetim ve insanlık odaklı gelişim öncelenmeli.

Öte yandan, insanlığın geleceğine dair riskler tartışılırken yapay zeka şirketleri ve bazı devletler, ‘Herkes koşarken ben neden durayım?' önermesiyle eleştirileri öteleyerek insanlığı oyun teorisindeki mahkumun ikilemine hapsediyor. Mahkumun ikilemini, her aktör bireysel çıkarını azamileştirme peşindeyken kolektif sonucun toplu hüsran olması şeklinde açıklamak mümkün.

Buna karşın gelişmeler, kimi şirketlerin kendi çıkarları uğruna riskleri göz ardı ettiğini, kimilerinin ise en iyi sonucun yarışı kendilerinin kazanması olduğuna inandığını göstermekte. Aynı açmazın farklı ülkeler için geçerli olduğunu söylemek de mümkün. Askeri, ekonomik, siyasi hırslardan beslenen bu kibir, tüm insanlık için riskleri katlayarak hüsrana giden yolda taşlar döşenmesine vesile oluyor. İşte bu noktada yeniden aynı soruyu sormak gerekiyor: Yapay zeka dünyasında insan kontrolü yalnızca bir illüzyon mu?

Henüz illüzyon olmasa da dönüşme riskinin büyüdüğünü söylemek mümkün. Bu hafta yaşanan gelişmeler, şirketleri tepki ve itibar yönetiminden ziyade gerçek denetimlerin gerekliliğine inandırabilirse bir ümit doğabilir. Diğer yandan bu tepkiler, yeni bir sürece geçişin önünü açma çabası olarak değerlendirilebileceği gibi teknoloji şirketleri-devletler rekabetinde yeni bir dönemin başlangıcına da vesile olabilir.

Trump'ın ikinci döneminde işbirliği ve iştirak modeliyle yürüyen ilişki, bu gelişmelerden sonra biraz esneyebilir. Yapay zeka rekabetinin iki başat aktörü ABD ve Çin dışındaki ülkelerde soru işaretleri de büyüyebilir. Bu ülkelerin birbirleriyle müstakil ya da bölgesel işbirliği girişimleri ve bu ülkelerde şirketlere sınır çizme girişimleri artabilir.

Sonuç olarak bir kartopunun yuvarlanmaya başladığı kesin fakat henüz tünelin ucunu görmek için erken. Yapay zeka şirketlerinin sıklıkla esinlendiği Yüzüklerin Efendisi edebi evreninden bir benzetmeyle ifade etmek gerekirse ‘Arifler sendelediğinde, yardım çoğu kez zayıfların elinden gelir.’ Coxon ne yapay zeka risklerine dikkat çeken ilk isimdi ne de istifa eden, daha düne kadar az tanınan 27 yaşında bir mühendisti ancak son dönemdeki güvenlik açıkları ve süper yapay zekaya doğru hızlı yolculuk, Coxon’u bir bayraktar yaptı. İstifasıyla belki son taşı yerinden oynattı belki de hala son taş bekleniyor. Lakin bir gerçek var ki bu istifa sosyal medyadaki milyonlarca etkileşimle dünyada bir farkındalığa vesile oldu.

[Prof. Dr. Cenay Babaoğlu, Niğde Ömer Halisdemir Üniversitesi Öğretim Üyesi ve SETA Kıdemli Araştırmacısıdır.]

*Makalelerdeki fikirler yazarına aittir ve Anadolu Ajansının editoryal politikasını yansıtmayabilir.

Muhabir: Muhammed Utku Asker

ANALİZ - Süper yapay zeka yarışında içsel kriz ve mahkumun ikilemi

İstanbul / İnsanlığın geleceğine dair riskler tartışılırken yapay zeka şirketleri ve bazı devletler, 'Herkes koşarken ben neden durayım?' önermesiyle eleştirileri öteleyerek insanlığı oyun teorisindeki mahkumun ikilemine hapsediyor

Yapay zeka rekabetinde içeriden gelen uyarılar ve kozmetik tedbirler

Kontrol illüzyonunda yeni perde mi?