Anthropic araştırmacısına göre, yapay zekanın tüm insanları öldürebilme ihtimali yüzde 10'dan fazla (GÜNCELLEME)

Ankara / Anthropic'te görev yapan araştırmacılardan Evan Hubinger, yapay zeka teknolojilerinin 10 yıl içinde tüm insanları öldürebilme olasılığının yüzde 10'dan fazla olduğuna inandığını belirtti.Anthropic'te yapay zekanın insan değerleriyle uyumu üzerine çal…. DİĞER UZMANLARIN AÇIKLAMALARI EKLENDİ

Ankara Haberleri : Anthropic'te görev yapan araştırmacılardan Evan Hubinger, yapay zeka teknolojilerinin 10 yıl içinde tüm insanları öldürebilme olasılığının yüzde 10'dan fazla olduğuna inandığını belirtti.

Anthropic'te yapay zekanın insan değerleriyle uyumu üzerine çalışan Evan Hubinger, ABD merkezli X şirketinin sosyal medya platformundaki hesabından, Anthropic'ten istifa eden Jacob Coxon'un paylaşımına ilişkin açıklamada bulundu.

Coxon'un Yapay zeka geliştirenler, bu teknolojinin 10 yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inanıyorlar. yönündeki paylaşımını alıntılayan Hubinger, Jacob bu konuda haklı, yapay zekanın tüm insanları öldürebileceğine gerçekten, içtenlikle inanıyoruz. ifadesini kullandı.

Hubinger, 10 yıl içinde bu olasılığın yüzde 10'dan fazla olduğunu düşündüğünü savunarak, Anthropic'in elinden geleni yaptığını düşünüyorum ancak süper zeka ile uyum sorununu çözecek planımız henüz yok ve bu yönde net bir yol haritası da izlemiyoruz. değerlendirmesinde bulundu.

Nobel ödüllü bilim insanı Hinton, yüzde 10'luk olasılığın makul olduğu görüşünde

Nobel ödüllü bilim insanı Geoffrey Hinton, BBC'ye yaptığı açıklamada insanların daha önce kendilerinden daha zeki olabilecek bir ürün ortaya koymadığını, bu nedenle olacakların tahmin edilemediğini belirtti.

Hinton, yapay zeka teknolojilerinin 10 yıl içinde tüm insanları öldürebilme olasılığının yüzde 10'dan fazla olduğuna ilişkin değerlendirmelerin mantık dışı olmadığını ifade etti.

Gelişmiş yapay zekanın ciddi risk teşkil etmesi için fiziksel sistemleri kontrol edebilmesine gerek olmadığını, insanlarla konuşarak dahi kaosa yol açabileceğini söyleyen Hinton, yüksek kabiliyetli sistemlerin biyolojik ya da siber saldırılarda veya bilgisayar virüslerinin tasarlanmasında kullanılabileceği uyarısında bulundu.

Hinton, yapay zekanın insanlara zarar verecek hedefler geliştirmeyecek şekilde tasarlanması gerektiğini vurguladı.

Açıklamaların, halkla ilişkiler ve pazarlama amaçlı olabileceği iddiası

Öte yandan, Birlemiş Milletler'e (BM) yapay zeka konusunda danışmanlık yapan bilgisayar bilimci Dame Wendy Hall, BBC'ye Hubinger ve Coxon'un sosyal medya paylaşımlarına ilişkin açıklamada bulundu.

Bu paylaşımlardan dolayı şok olduğunu belirten Hall, Anthropic ve OpenAI'ın borsa girişleri için yarıştığı bir dönemde yapılan bu paylaşımların bir kısmının halkla ilişkiler ve pazarlama amaçlı olabileceğini söyledi.

Coxon'un istifası

Son üç yıldır yapay zeka devleri OpenAI ve Anthropic bünyesinde araştırmacı olarak görev yaptığını belirten Jacob Coxon, X hesabından yaptığı açıklamada, her iki şirketin de yeterince sorumlu davranmadığını savunarak, Anthropic'ten istifa ettiğini duyurmuştu.

Coxon, şirketlerin kendi kendini geliştirebilen süper zekaya ulaşmak için kontrolsüz yarış içinde olduğunu ifade ederek, Bu teknolojinin gücünü hafife almayın. Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek. Bu alanların her birindeki ilerlemeye tanık olduk ve bu süreç yavaşlamıyor. değerlendirmesinde bulunmuştu.

Yapay zeka modellerini geliştiren sektör çalışanlarının, bu sistemlerin 10 yıl içinde insanlığı öldürebileceğine ciddi şekilde inandığını öne süren Coxon, yöneticilerin kamuoyu önünde ılımlı konuşmalarına rağmen kapalı kapılar ardında büyük bir korku yaşadıklarını iddia etmişti.