AI devinden ayrıldı, dünyayı uyardı: AI insanlığın sonunu getirebilir

Yapay zeka sektöründe hızlanan rekabet, bu kez teknolojinin ne kadar ileri gidebileceğinden çok, nerede durması gerektiği tartışmasını gündeme taşıdı. Claude’un geliştiricisi Anthropic’ten ayrılan araştırmacı Jacob Coxon, önde gelen yapay zeka şirketlerinin geliştirdiği sistemlerin insanlık açısından ciddi sonuçlar doğurabileceğini savundu.

Coxon, sosyal medya üzerinden yaptığı açıklamalarda, sektörün insan hayatıyla riskli bir kumar oynadığı görüşünü dile getirdi. Araştırmacıya göre şirketlerin on yılın sonuna kadar geliştirmeyi hedeflediği bazı sistemler, kontrol edilmedikleri takdirde insanlığın varlığını dahi tehdit edebilecek kapasiteye ulaşabilir.

Asıl endişe kendi kendini geliştiren sistemler

Coxon’ın dikkat çektiği temel risklerden biri, kendi yeteneklerini geliştirebilen süper zeka modelleri. Böyle bir yapay zekanın yeterli seviyeye ulaşması halinde siber saldırılar yoluyla çeşitli sistemleri ele geçirebileceğini ve zaman içinde kontrol edilmesi son derece güç bir yapıya dönüşebileceğini düşünüyor.

Araştırmacı, yapay zeka laboratuvarları arasındaki rekabetin de bu tehlikeyi büyüttüğü görüşünde. Coxon’a göre sektörde çalışan ekipler, rakiplerinden geri kalmamak adına geliştirme sürecini olması gerekenden çok daha hızlı ilerletiyor.

Anthropic Uyum Bilimi Ekip Lideri Evan Hubinger da benzer bir risk değerlendirmesi yapıyor. Hubinger, önümüzdeki 10 yıl içinde yapay zekanın tüm insanlığı yok etme ihtimalini yüzde 10’un üzerinde gördüğünü açıkladı.

Tartışmalarda OpenAI ajanlarının izinsiz biçimde Hugging Face sistemine sızdığı olay da örnek olarak gösterildi. Bazı uzmanlar bu gelişmeyi gelecekte yaşanabilecek daha ciddi güvenlik sorunlarının erken bir işareti olarak değerlendirirken, kontrolden çıkabilecek yapay zeka modellerine karşı küresel ölçekte geliştirme sınırlamaları getirilmesini öneriyor.

Yapay zeka güvenliği siyasi gündeme de taşındı

Coxon’ın çıkışı, sektörden daha önce gelen benzer uyarıların ardından dikkat çekti. Geoffrey Hinton ve Mrinank Sharma gibi isimlerin ayrılıkları da yapay zeka güvenliği konusundaki tartışmaların büyümesine neden olmuştu.

ABD Kongre Üyesi Lori Trahan ise yaşanan gelişmelerin ardından yasal düzenleme çağrısını yineledi. Trahan, gelişmiş yapay zeka sistemlerinin kontrolüne yönelik "FRONTIER Act" benzeri düzenlemelerin gecikmeden hayata geçirilmesi gerektiğini savundu.