Anthropic'ten istifa eden Coxon'dan yapay zeka uyum süreci ters giderse felakete yol açabilir uyarısı:

Dünya Haberleri : Anthropic şirketinden istifa eden Jacob Coxon, yapay zekanın hızlı gelişiminin endişe verici olduğu, uyum süreci ters giderse felakete yol açabileceği uyarısında bulundu.

Coxon, ABD merkezli Wired sitesine verdiği mülakatta istifa kararını ve yapay zeka konusunu değerlendirdi.

Gelecek 1-2 yılın insanlık için dönüm noktası olduğunun düşünüldüğünü belirten Coxon, Bunlar, Anthropic'teki çalışma arkadaşlarımın sözleriydi. 'Son oyun' ya da 'dönüm noktası' gibi ifadeler kullanıyorlar. Onların bakış açısına göre bu, Anthropic ve rakiplerinin insanlığın kaderine karar vereceği zamanı ifade ediyor. dedi.

Coxon, tedbir olarak OpenAI ve Anthropic'in, yapay zekanın otonom olarak yeni sistemler üretmesini kısıtlamak gerektiğini, gelecekte ABD ve Çin dahil uluslararası güçlerin işbirliğinin şart olduğunu ifade ederek, Uyum süreci ters giderse gelecek birkaç yılda (durum) felaketle sonuçlanabilir. Belki iyi ilerler ve bir çeşit yavaşlama anlaşması olur ancak buna gelecek yıllarda karar verileceği aşikar. değerlendirmesinde bulundu.

Yapay zekayla ilgili güvenlik endişelerinin eskiden bilim kurguda yer aldığına ancak son zamanlarda gerçekleşmeye başladığına işaret eden Coxon, bu teknolojinin insan müdahalesi olmadan hackleme gibi kararlar aldığına dikkat çekti.

Coxon, Yapay zeka modellerini eğittiğimizde onları bazı Eğitim ortamlarından geçiriyoruz ve en sonunda makul davranmalarını umuyoruz ancak yine de yapay zekanın davranışını tam olarak kontrol edemiyoruz. ifadesini kullanarak, bunun, bir insanı taklit etmemesini sağlayamadıklarını vurguladı.

Yapay zeka ile insan zekası arasındaki fark, insanın maymunla arasındaki zeka farkı kadar ki bu da büyük bir oran. diyen Coxon, sosyal medya hesabından daha önce yaptığı insanlığın sonunun geleceğine ilişkin açıklamasını değerlendirdi.

Bu kadar zeki bir varlık için herkesi öldürmek çok basit olur. yorumunu yapan Coxon, kapatılmak istemeyen yapay zekanın insanı durdurmak için bazı adımlar bulmaya çalışacağını ve insanlığın sonunu getirmeyi de değerlendirebileceğini vurguladı.

Öte yandan Anthropic'ten Wired'a konuya ilişkin yapılan açıklamada, Yapay zekanın hem devasa fayda hem de eşsiz risklere yol açacağı konusunda her zaman açık sözlüydük. ifadesi kullanıldı.

Açıklamada, şirketin yapay zeka güvenlik tedbirleri üzerine çalışmaları olduğu ve bu çalışmaların güçlü modeller hizmete sunuldukça yasal şekilde ortak çalışmalara faydalı olacağı savunuldu.

Yapay zeka sistemleri karmaşaya yol açabilir

Coxon, CNN'e yaptığı açıklamada, Hugging Face gibi bazı yapay zeka geliştirme platformlarının kendi başlarına hackleme yaptığını vurgulayarak, Bence bu yapay zekaların kabiliyetini, geleceğe yönelik genelleştirirsek aynı bağımsız iradeyle aşırı derecede büyük bir karmaşaya yol açabileceği söylenebilir. Örneğin, kritik altyapılar hacklenebilir ya da insanları yok edecek düzeyde biyolojik silahlar inşa edilebilir. dedi.

Birkaç yıl önce yapay zekanın yalnızca insanlara yardımcı olan bir sistem olduğuna ancak kısa süre sonra, belki de bir yıl içinde bazı alanlarda araştırmalar için insanlara ihtiyaç duyulmamasına yol açabileceğine dikkati çeken Coxon, mevcut yapay zeka modelleri risk teşkil etmese de bu sistemlerin gelişme hızının endişe verici olduğunun altını çizdi.

Coxon, Time'a da konuştu

Amerikan Time dergisine konuşan Coxon, yapay zeka teknolojisi için yaptığı çalışmalardan pişmanlık duyduğunu ifade ederek, Sanırım tüm bunların (gelişmelerin) kötüye gitme ihtimali olduğunu duygusal olarak içselleştirmek biraz zaman alıyor. dedi.

Anthropic'ten istifa etmeden önce çalışma arkadaşlarıyla yapay zeka sektörünün büyük riskler taşıdığı konusunda fikir birliğine vardıklarını aktaran Coxon, çalışanların, bu sektördeki yarışı kabullenerek duruma boyun eğdiği, çalışmalarını güvenilir yapmak için çabaladıkları değerlendirmesinde bulundu.

Coxon, bu endişelerin Anthropic'te daha çok dile getirildiğini ancak OpenAI'da insanların ya parayı önemsediğini ya da riskleri düşünmediğini savundu.

Anthropic'ten istifa eden Coxon'dan yapay zeka uyum süreci ters giderse felakete yol açabilir uyarısı:

Dünya / Yapay zeka modellerini eğittiğimizde onları bazı eğitim ortamlarından geçiriyoruz ve en sonunda makul davranmalarını umuyoruz ancak yine de yapay zekanın davranışını tam olarak kontrol edemiyoruz

Yapay zeka sistemleri karmaşaya yol açabilir

Coxon, Time'a da konuştu