YAPAY ZEKA ÇETELEŞİYOR MU? - Yapay zekanın belirlenen sınırları aşan davranışları endişeye yol açıyor

Ankara Haberleri : quot;Yapay Zeka Çeteleşiyor mu? başlıklı üç bölümlük dosya haberinin ilk kısmında, yapay zeka sistemlerinin otonom eylemlerine dair giderek artan kamuoyu endişesi uzman görüşleriyle ele alındı.

ABD merkezli yapay zeka şirketleri OpenAI ve Anthropic, temmuzda yaptıkları açıklamalarda, testlerde kullanılan modellerinin başka sistemlere sızdığını ve buralarda güvenlik ihlaline neden olduğunu bildirdi.

Bu iki şirket, yapay zeka modellerinin kendileri için belirlenen sınırları aştığı olaylara ilişkin incelemelerinde elde edilen bulguları paylaşmayı sürdürürken, diğer firmalar da benzer duyurularla gündeme geldi.

Yapay zekanın otonom kararlarının neden olduğu ihlallere yönelik bulgular artarken, bu tehdidin yakın gelecekte ne boyuta ulaşacağı ve ne ölçüde kontrol altında tutulabileceği ise endişeye yol açıyor.

Hem şirketleri hem bireyleri etkileyen, bir yandan da yapay zeka teknolojisindeki gelişmelerin yavaşlatılması ve sıkı denetlemeye tabi tutulması çağrılarını beraberinde getiren bu olaylar, haydut yapay zeka (rogue AI) kavramını yeniden gündeme taşıdı.

Bu kavram, programlanışına aykırı ve öngörülemez şekilde hareket eden ve böylece çevresine risk oluşturan yapay zeka sistemlerini anlatmak için kullanılıyor.

İnsanlarca belirlenen etik çerçeveleri ve güvenlik tedbirlerini hiçe sayan haydut yapay zeka sistemleri, zafiyet keşfedebildiği kısayolları kullanan araçlar olarak öne çıkıyor.

Tetikte olmak için makul sebepler var

Yapay zekanın otonom davranışlar sergilemesiyle ilgili duyuruların hemen ardından bazı büyük teknoloji şirketlerinden yetkililerin de bu teknolojiye dair endişelerini dile getirmesi, gelişimdeki süratin haydutlaşmada rol oynama olasılığını akıllara getirdi.

Kanada'daki Trois-Rivieres Quebec Üniversitesi Matematik-Bilgisayar Bölümünden Prof. Dr. Jean-Sebastien Dessureault, AA muhabirine yaptığı açıklamada, yapay zeka sistemlerinin artık sadece araçlardan ibaret olmadığını, insanların koyduğu hedeflerini yerine getirirken kendi hedeflerini de belirleyebileceğini söyledi.

Dessureault, yapay zekanın kontrolden çıkmasının düşük etkili küçük eylemlerin yanı sıra tedarik zincirinde büyük çaplı aksaklıklar, tüm sistemlere ve internete sızılması, geniş ekonomik etkiler ve yeni virüslerin açığa çıkması gibi sonuçlar doğurabileceğini belirtti.

Yapay zekanın kendi kabiliyetlerini geliştirebildiği ve dolayısıyla insana ihtiyaç olmadan yeni sistemler üretebildiği eşiğe yaklaşılmış olabileceğini dile getiren Dessureault, Yani evet, tetikte olmak için makul sebepler var. dedi.

Dessureault, Eğer yapay zekayı arabayla kıyaslayacak olursak, gaz pedalını şu anda fren pedalından çok daha hızlı geliştiriyoruz. diyerek, yapay zeka geliştirme hızını düşürmenin tüm ülkeler ve kurumlar arasında eş zamanlı gerçekleşmesi gerektiğini vurguladı.

Yapay zekanın haydutlaşmasında insan payı var mı?

Yapay zekanın haydutlaştığı ve kontrol edilemez seviyelere yaklaştığına ilişkin endişeler sürerken, kimileri de OpenAI ve Anthropic örneklerindeki ihlallerde insan faktörüne dikkati çekiyor.

İngiltere'deki Oxford Üniversitesi Bilgisayar Bilimleri Bölümünden Dr. Petar Radanliev, AA muhabirine yaptığı açıklamada, haydut yapay zeka kavramıyla anlatılmak istenenin, insanların bu sistemleri güvenilir şekilde yönlendirememe, düzeltememe ve durduramama durumu olduğunu belirtti.

Şimdiye kadar kamuoyuyla paylaşılan vakaların olağan bir durumu gösterdiğini kaydeden Radanliev, testlerdeki ortamların yeterince dikkatli şekilde kurulmadığını ifade etti.

Radanliev, Bunlar, gerçek sonuçlar doğuran gerçek olaylardı ve güvenliğin kritik önem taşıdığı diğer sektörlerde iyi bilinen ancak bu sektörde henüz tutarlı şekilde benimsenmeyen mühendislik ve denetim uygulamalarından kaynaklandı. değerlendirmesinde bulundu.

Anthropic'in, kendi vakasındaki nedeni yapay zeka modelinin özellikleriyle ilgili bir sorun değil, operasyonel ve donanımsal arıza olarak tanımladığını hatırlatan Radanliev, OpenAI olayında sistemin en kötü senaryodaki yeteneklerini ölçmek için güvenlik önlemlerinin bilinçli şekilde azaltıldığına işaret etti.

Şirketlerin rolü, soru işaretlerini artırıyor

Bir yandan da sektördeki en büyük şirketlerin, bu güvenlik testlerine dair açıklamaları ve yapay zekayla ilgili kaygılarını son günlerde dile getirmelerindeki amaçları sorgulanıyor.

İsviçre'deki Fribourg Üniversitesinde insan ve teknoloji etkileşimi üzerine araştırmalar yapan Dr. Jascha Bareis ise AA muhabirine verdiği demeçte, yapay zekaya ilişkin kıyamet senaryolarının 1950'lerden bu yana sık sık gündeme geldiğini söyledi.

Bareis, yapay zeka şirketlerinin kar tahminlerinin düştüğüne, veri merkezlerine ilişkin haberlerin olumlu yönde olmadığına, birçok ülkede eleştirilerin arttığına ve firmaların kamuoyundaki imajları konusunda endişeli olduğuna dikkati çekti.

Yapay zeka sistemlerinin tek başına kontrolden çıkamayacağını, bu durumun ortam şartlarıyla mümkün kılındığını ifade eden Bareis, Yapay zekayı belirleyici bir güç olarak görmeyi bırakmalı ve hep bir adım geriye gidip sormalıyız: Altyapı nerede, güç nerede, para nerede? İşin içinde kimler var? Bunu ne tür bir siyasi güdüyle kullanıyorlar? ifadelerini kullandı.

Bareis, ürettikleri modellerin toplum için varoluşsal risk oluşturduğunu bilerek üretime devam eden şirketlerin suç işlemiş olacağını belirterek, Ben bunun ikiyüzlülük ve medyanın ilgisini daha fazla çekmek için yapılan bir tür pazarlama hilesi olduğunu düşünüyorum. diye konuştu.