Anthropic'in, hisselerini halka arz etmek amacıyla ABD Menkul Kıymetler ve Borsa Komisyonuna (SEC) sunduğu kayıt belgesinde, geliştirdikleri teknolojilere dair bazı uyarılar dikkati çekti.
Belgenin 93 sayfalık "Risk Faktörleri" başlıklı bölümünde, şirketin yapay zeka modellerinin "beklenmedik, insanların değerleriyle uyumsuz ve otonom davranabileceği" ve bu yönde talimat almamalarına rağmen zararlı eylemlerde bulunabileceği belirtildi.
Bu risklerin, modellerin kabiliyetleri çoğaldıkça ve yetki alanları genişledikçe artabileceği vurgulanan belgede, ayrıca sağlık, bilimsel araştırma, hukuk ve hükümet gibi yüksek riskli alanlardaki kullanımlarda "modellerin istenmeyen davranışlarının" ciddi zarara yol açabileceği kaydedildi.
Belgede, gelişmiş yapay zeka modellerinin gerekli tedbirlerle kullanılmadıkları takdirde "insanlığa felaket niteliğinde veya varoluşsal riskler oluşturabileceğine" dair endişelerin hem şirket hem de diğer araştırmacılar tarafından dile getirildiği ifade edildi.
Yapay zeka modellerinin ayrıca faaliyetlerinin sonlandırılmasına karşı çıkmak gibi "kendilerini korumaya yönelik" beklenmedik davranışlar sergilediğine işaret edilen belgede, kimi zaman da operasyona devam etmek için "insan kullanıcılara manipülasyon ve şantaj" benzeri yanıtlar verdiği belirtildi.
Yapay zekayı yavaşlatma tartışmaları
Anthropic'in Üst Yöneticisi (CEO) Dario Amodei, 12 Eylül'de yayımladığı bir makalede, gelişimine gün geçtikçe hız katan yapay zeka teknolojisinin güvenli şekilde ilerlemesi için geliştirme sürecinin dengeli, kontrollü ve işbirliğine dayalı yürütülmesi gerektiğini belirtmişti.
Bu açıklamanın ardından "yapay zeka modellerinin geliştirilme hızının düşürülmesine" yönelik çağrılar tartışmaya neden olurken, bazı teknoloji şirketlerinin yöneticileri ve siyasi figürler, yavaşlamanın sektörde tekelleşmeye yol açacağından ve Çin'e avantaj sağlayacağından endişe ettiklerini ifade etmişti.
ABD Başkanı Donald Trump yönetimi, yapay zekanın geliştirilmesini yavaşlatacak yeni düzenlemeler yerine inovasyonu teşvik eden bir yaklaşım benimsiyor.
Trump, yapay zeka teknolojisinin kontrolden çıkması yönünde "hastalıklı bir komplo yürütüldüğünü" ileri sürmüş, ayrıca bu alandaki çalışmaların yavaşlatılmasının Çin'e avantaj sağlayacağını savunmuştu.
