Anthropic'in kurucu ortağından acil kapatma düğmesinin zorunlu hale gelebileceği mesajı

Ankara Haberleri : ABD'li yapay zeka şirketi Anthropic'in kurucu ortaklarından Jack Clark, şirketler için üçüncü bir tarafca kullanılabilecek bir acil kapatma düğmesinin zorunlu hale gelebileceği yorumunda bulundu.

Clark, son dönemde yapay zekayla ilgili gündeme gelen tartışmalara ilişkin, BBC'ye bir röportaj verdi.

Anthropic kurucularından Clark, yapay zeka yazılımının çok tehlikeli hale gelmesi durumunda onu tamamen devre dışı bırakmanın bir yolunun, toplumun ileride bu konuda kurallar koymak isteyebileceği bir konu olduğunu söyledi.

Anthropic dahil birçok şirketin çeşitli kapatma düğmesi yöntemlerinin olduğunu belirten Clark, acil kapatma düğmesi gereklilikleri ve denetimi ile ilgili ayrıntıların, yapay zeka konusunda yürütülen daha geniş kapsamlı politika tartışmasının bir parçası olması gerektiğini dile getirdi.

Muazzam riskler alarak kumar oynuyoruz

BBC'nin Şirketlerin mutlaka bir acil kapatma düğmesi bulundurmasını zorunlu kılmalı mısınız? Bu acil kapatma düğmesi üçüncü bir tarafın mı kontrolü altında olmalı? sorusu üzerine Clark, Bence bu, toplumun bilmek isteyeceği ve nihayetinde bu konuda kurallar koymak isteyebileceği türden bir konu. yanıtını verdi.

Yapay zekanın tüm insanlığı yok etme olasılığının yüzde kaç olduğunun sorulması üzerine Clark, Bu istatistiklerin bir işe yarayacağını düşünmüyorum. Ancak yapay zekanın tamamen kontrolsüz bir endüstri olması kötü bir fikir. ifadesini kullandı.

Clark, Muazzam riskler alarak kumar oynuyoruz. Ve asıl mesele şu ki bu sektörün gidişatını değiştirmeliyiz. görüşünü paylaştı.

Yapay zekanın insanlığı yok edebileceği iddiası

OpenAI ve Anthropic'te son üç yıldır araştırmacı olarak çalışan Jacob Coxon, iki şirketin de yapay zeka konusunda yeterince sorumlu davranmadığını savunarak, Anthropic'ten istifa etmişti.

Şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz bir yarış içinde olduğunu ileri süren Coxon, bu sistemlerin yakın gelecekte her şeyi hackleyebilecek insanüstü sistemlere dönüşebileceğini savunmuştu.

Coxon ayrıca, yapay zeka modellerini geliştiren bazı sektör çalışanlarının bu sistemlerin 10 yıl içinde insanlığı öldürebileceğine ciddi şekilde inandığını öne sürmüştü.

Anthropic'in kurucu ortağından acil kapatma düğmesinin zorunlu hale gelebileceği mesajı

Ankara / ABD'li yapay zeka şirketi Anthropic'in kurucu ortaklarından Jack Clark, şirketler için üçüncü bir tarafca kullanılabilecek bir acil kapatma düğmesinin zorunlu hale gelebileceği yorumunda bulundu.

Muazzam riskler alarak kumar oynuyoruz

Yapay zekanın insanlığı yok edebileceği iddiası