Anthropic Araştırmacısından Yapay Zeka Riski Uyarısı. İnsanlığın Yok Olma İhtimalini Yüzde 10’dan Fazla Görüyor

0

BEĞENDİM

ABONE OL

News

0

Yapay zeka teknolojilerinin hızla gelişmesiyle birlikte güvenlik ve kontrol tartışmaları da büyüyor. Anthropic bünyesinde yapay zekanın insan değerleriyle uyumu üzerine çalışan araştırmacı Evan Hubinger, yapay zeka sistemlerinin gelecek 10 yıl içinde tüm insanları öldürebilecek bir noktaya ulaşması ihtimalini yüzde 10’dan fazla gördüğünü açıkladı. Hubinger’in açıklamaları, yapay zeka riski konusunda teknoloji sektörünün içinden gelen dikkat çekici değerlendirmelerden biri oldu.

TRT Haber’de yer alan bilgilere göre Evan Hubinger, X sosyal medya platformundaki hesabından yaptığı paylaşımda, Anthropic’ten istifa eden yapay zeka araştırmacısı Jacob Coxon’un açıklamalarını değerlendirdi.

Coxon’un yapay zeka teknolojisini geliştiren kişilerin, bu sistemlerin 10 yılın sonuna kadar insanlığın tamamını öldürebileceğine gerçekten inandıkları yönündeki paylaşımını alıntılayan Hubinger, söz konusu değerlendirmeye katıldığını açık şekilde dile getirdi.

Hubinger, “Jacob bu konuda haklı, yapay zekanın tüm insanları öldürebileceğine gerçekten, içtenlikle inanıyoruz.” ifadesini kullandı.

Evan Hubinger yapay zeka konusunda yüzde 10’dan fazla ihtimal verdi

Anthropic araştırmacısı Evan Hubinger’in açıklamalarındaki en dikkat çekici bölüm ise olası risk için verdiği oran oldu. Hubinger, gelecek 10 yıl içerisinde yapay zeka teknolojilerinin tüm insanları öldürmesi ihtimalinin yüzde 10’dan fazla olduğunu düşündüğünü savundu.

Hubinger, Anthropic’in yapay zeka güvenliği konusunda elinden geleni yaptığını düşündüğünü ancak süper zeka sistemlerinin insan değerleriyle uyumlu hale getirilmesi konusunda henüz çözülmüş bir plan bulunmadığını belirtti.

Araştırmacı, “Anthropic’in elinden geleni yaptığını düşünüyorum ancak süper zeka ile uyum sorununu çözecek planımız henüz yok ve bu yönde net bir yol haritası da izlemiyoruz.” değerlendirmesinde bulundu.

Bu açıklamalar, gelişmiş yapay zeka sistemlerinin kontrolü ve insanlarla uyumlu hareket etmesinin nasıl sağlanacağı konusundaki tartışmaları yeniden gündeme taşıdı.

Jacob Coxon Anthropic’ten neden istifa etti

Evan Hubinger’in açıklamalarının merkezinde, daha önce OpenAI ve Anthropic bünyesinde çalışan araştırmacı Jacob Coxon’un istifa kararı bulunuyor.

Son üç yıldır yapay zeka sektörünün önde gelen şirketlerinden OpenAI ve Anthropic’te araştırmacı olarak görev yaptığını belirten Coxon, X hesabından yaptığı açıklamayla Anthropic’ten istifa ettiğini duyurmuştu.

Coxon, istifa kararının gerekçesini açıklarken her iki şirketin de yeterince sorumlu davranmadığını savunmuştu. Yapay zeka şirketlerinin kendi kendisini geliştirebilen süper zekaya ulaşabilmek için kontrolsüz bir yarış içerisinde olduğunu ileri süren araştırmacı, teknolojinin ulaşabileceği kapasitenin küçümsenmemesi gerektiğini belirtmişti.

Coxon, yapay zeka sistemlerinin gelecekte son derece güçlü hale gelebileceğini savunarak, “Bu teknolojinin gücünü hafife almayın.” ifadelerini kullanmıştı.

İnsanüstü yapay zeka sistemleri uyarısı

Jacob Coxon’un açıklamalarında yapay zekanın gelecekte kazanabileceği yeteneklere ilişkin çarpıcı iddialar da yer aldı.

Coxon, geliştirilen sistemlerin yakın gelecekte her şeyi hackleyebilecek, herhangi bir alanı çok kısa sürede dönüştürebilecek ve gerçek dünyada güç ile kaynak elde edebilecek insanüstü sistemler haline gelebileceğini öne sürdü.

Araştırmacı, bu alanların her birindeki ilerlemeye tanık olduklarını ve gelişim sürecinin yavaşlamadığını ifade etti.

Coxon’un en dikkat çekici iddialarından biri ise yapay zeka sektöründe çalışan kişilerin risklere yaklaşımıyla ilgili oldu. Coxon, yapay zeka modellerini geliştiren sektör çalışanlarının bu sistemlerin gelecek 10 yıl içerisinde insanlığı öldürebilecek seviyeye ulaşabileceğine ciddi şekilde inandıklarını öne sürdü.

Yapay zeka şirketlerine sorumluluk eleştirisi

Coxon, yapay zeka şirketlerinin yöneticilerine yönelik de dikkat çekici bir iddiada bulundu. Şirket yöneticilerinin kamuoyu önünde daha ılımlı açıklamalar yaptığını belirten Coxon, kapalı kapılar ardında ise teknolojinin oluşturabileceği risklere ilişkin büyük bir korku bulunduğunu ileri sürdü.

Evan Hubinger’in Coxon’un açıklamalarına destek vermesi ise tartışmayı farklı bir noktaya taşıdı. Anthropic bünyesinde doğrudan yapay zekanın insan değerleriyle uyumu konusunda çalışan Hubinger’in, insanlığın karşı karşıya kalabileceği risk konusunda yüzde 10’dan fazla ihtimal vermesi dikkat çekti.

İki araştırmacının açıklamalarında öne çıkan ortak nokta, yapay zeka sistemlerinin geliştirilme hızının yanı sıra kontrol, güvenlik ve insan değerleriyle uyum konularının henüz tamamen çözülememiş olması oldu.

Hubinger, Anthropic’in gerekli çalışmaları yaptığını düşündüğünü belirtirken, süper zeka ile uyum problemini çözmek için henüz hazır bir planın ve net bir yol haritasının bulunmadığını söyledi. Coxon ise sektörün kendi kendisini geliştirebilen süper zekaya ulaşma konusunda kontrolsüz bir yarış içinde olduğunu savundu.

Yapay zeka teknolojisinin geleceğine ilişkin iki araştırmacının ortaya koyduğu değerlendirmeler, önümüzdeki yıllarda gelişmiş sistemlerin nasıl kontrol altında tutulacağı ve insan güvenliğinin nasıl korunacağı tartışmasının teknoloji dünyasının önemli başlıklarından biri olmaya devam edeceğini gösteriyor.