Yapay zeka uzmanından yavaşlamanın yetmeyeceği, ileri sistemlerin inşasının durdurulması gerektiği uyarısı

Dünya Haberleri : RABİA ALİ - Kanada'daki Montreal Üniversitesinde yapay zeka güvenliği alanında çalışan Doç. Dr. David Krueger, son dönemdeki çağrıların aksine yapay zeka modellerini geliştirme hızının düşürülmesinin yeterli olmayacağı, daha güçlü sistemlerin inşası tamamıyla durdurulmadığı sürece insanlığın kontrolü yitirebilme ihtimalinin olduğu uyarısında bulundu.

Anthropic'in Üst Yöneticisi (CEO) Dario Amodei, yapay zeka sistemlerinin kontrol edilmesine ilişkin endişelerin artmasıyla 12 Eylül'de şirketlere yapay zeka modellerini geliştirme hızlarını düşürmeleri için çağrı yaptı.

Tesla ve SpaceX Üst Yöneticisi (CEO) Elon Musk'ın yanı sıra ABD merkezli yapay zeka şirketi OpenAI'ın Üst Yöneticisi (CEO) Sam Altman, sosyal medya hesaplarından Amodei'ye destek verdi.

Krueger, AA muhabirine, son dönemde önde gelen teknoloji firmalarının yöneticilerinin, yapay zekanın gelişimini yavaşlatma çağrılarına ilişkin değerlendirmelerde bulundu.

Geliştirme çalışmalarının hızını düşürmenin yeterli olmayacağını vurgulayan Krueger, Yapay zekayı durdurmalıyız. Daha güçlü yapay zeka geliştirmeyi durdurmalıyız. dedi.

Krueger, üst düzey performanslı yapay zeka sistemleri geliştirme çalışmalarına yönelik derhal ve süresiz uluslararası moratoryum uygulanması çağrısında bulunarak, Şu anda yapabileceğimiz ve bizi gerçekten güvende tutacak tek şey bu. görüşünü paylaştı.

Hepimizin ölebileceğini söylüyorum

İnsanlığın kontrol edilemeyecek kadar güçlü sistemlerin gelişmesini engellemek için sadece birkaç yılının kalmış olabileceğini savunan Krueger, Bu, genelde çok karamsar bir tablo gibi geliyor çünkü ben bunun bir acil durum ve kriz olduğunu, hepimizin ölebileceğini söylüyorum. dedi.

Krueger, yapay zekanın, ölümle sonuçlanan davranışları tetiklemeye çoktan başladığına dikkati çekerek, Yapay zekanın, insanlara intihar etmeleri ve başkalarını öldürmeleri için talimat verdiğine tanık olduk. diye konuştu.

Yapay zekanın askeri alandaki kullanımına da işaret eden Krueger, Bu, gayet gerçek bir durum. Şu anda yaşanıyor ama her şey çok hızlı değişiyor ve çok daha tehlikeli hale geliyor. değerlendirmesinde bulundu.

İnsan faktörü devre dışı bırakılıyor

Yapay zeka sistemlerinin son dönemde gündeme oturan otonom davranışlarına dikkati çeken Krueger, Yapay zekanın yanlış bir şey yapmadığından ve insanların kontrolü elinde tuttuğundan emin olunması için herkesin mevcut bulunmasını istediği insan faktörü, toplumun her alanında olduğu gibi devre dışı bırakılıyor. görüşünü paylaştı.

Krueger, yapay zeka sistemlerinin, sahip olduğu otonomi düzeyini bu yılın başlarında göstermeye başladığını, OpenAI şirketine ait modellerin başka bir sistemde yol açtığı siber güvenlik ihlalinin yapay zeka davranışının insan beklentilerinin dışında ne kadar hızlı çıkabileceğine dair uyarı niteliğinde olduğunu vurguladı.

Yapay zekanın bu olayda haydutlaştığını belirten Krueger, bu siber güvenlik ihlalinin, gelişmiş sistemlerin sınırlı insan denetimiyle çalışmasına izin verildiğinde neler yaşanabileceğini gösterdiğini ifade etti.

Yeni bir yaşam biçimi inşa etmek

Krueger, İnsanların anlaması gereken şey, şu anda yaptığımız şeyin esasen yeni bir yaşam biçimi inşa etmek olduğudur. yorumunu yaptı.

Yapay zeka sistemlerinin halen büyük ölçüde bilgisayarlarla sınırlı olduğunu anlatan Krueger, kritik altyapılara ve artan şekilde gelişmiş robotlara bağlandıkça erişimlerinin genişleyebileceğini söyledi.

Krueger, bu durum için, Bir noktada insanlardan çok daha zeki bir yaşam biçimi olacak. uyarısında bulunarak, asıl tehlikenin bu tür sistemlerin bağımsız çalışabilme yeteneğine sahip olmaları durumunda ortaya çıkabileceğini söyledi.

Hükümetler, daha güçlü sistemlerin geliştirilmesini durdurmalı

Krueger, hükümetlerin daha güçlü sistemlerin geliştirilmesini durdurması ve mevcut kaynakların nasıl güvenli şekilde kullanılabileceğini belirlerken ileri yapay zeka bilişim kapasitesinin genişletilmesini kısıtlamaları gerektiğini dile getirdi.

Böyle bir önlemin önemli siyasi ve ekonomik engellerle karşılaşacağına işaret eden Krueger, ülkelerin yapay zeka alanında liderlik için rekabet ettiklerini ve şirketlerin de giderek daha güçlü bilişim altyapılarına yatırımlar yaptıklarını anlattı.

Krueger, Bunu uluslararası düzeyde durdurmaya çalışırsak ülkelerin güçlü yapay zekayı gizlice geliştirmeye devam edeceğine dair bir endişenin olduğunu düşünüyorum. dedi.

Yapay zeka şirketlerine sahip ülkeler çok zenginleşecek

İnsanlığın gelişmiş yapay zeka üzerindeki kontrolünü tamamen kaybetmesi durumunda sonuçların evrensel olacağına inandığını belirten Krueger, Herkes ölecek ve bunu kimin inşa ettiğinin veya nerede yaşadığınızın bir önemi olmayacak. diye konuştu.

Krueger, yapay zekanın insan emeğinin çoğu biçimini yerine getirebilir hale gelmesi halinde, önde gelen yapay zeka şirketlerini kontrol eden ülkelerin muazzam ekonomik avantajlar sağlayabileceği ve diğerlerinin ise daha geride kalabileceği ihtimaline dikkati çekti.

Krueger, Bence yapay zeka şirketlerine sahip ülkeler çok zenginleşecek ve sahip olmayan ülkeler nispeten çok fakirleşecek. değerlendirmesinde bulundu.