Elon Musk: Yapay zeka şirketleri birbirinin modellerine güvenlik testi yapmalı!

Ancak söz konusu öneri henüz şirketler tarafından kabul edilmiş değil. Musk da sistemin tek başına yeterli bir çözüm olmadığını kabul ederken, farklı şirketlerin birbirlerinin modellerini test etmesinin sorunların tespit edilme ihtimalini artıracağını belirtti.

Musk’ın açıklaması, sektörün önde gelen isimlerinin yapay zeka güvenliği konusunda benzer kaygıları daha yüksek sesle dile getirdiği bir döneme denk geliyor. Anthropic CEO’su Dario Amodei kısa süre önce yayımladığı bir yazıda, yapay zeka yeteneklerinin geliştirilme hızının yavaşlatılması çağrısında bulundu. Amodei ayrıca önde gelen yapay zeka laboratuvarlarında dış değerlendiricilerin çalışanlarla benzer düzeyde erişime sahip olmasını ve modellerin güvenliğinin bağımsız şekilde incelenmesini önerdi.

Amodei’nin önerileri arasında ayrıca ortak güvenlik kriterlerinin oluşturulması ve yapay zeka sistemlerinin yeteneklerinin ne kadar hızlı geliştirilebileceğine yönelik sınırlar belirlenmesi de bulunuyor.

Tartışmalar, Anthropic ve OpenAI’de çalışmış araştırmacı Jacob Coxon’ın istifasının ardından da yoğunlaştı. Anthropic’te alignment alanında çalışan Evan Hubinger ise yapay zekanın önümüzdeki on yıl içinde insanlığın tamamını yok etme ihtimaline ilişkin kişisel bir tahmin paylaşarak tartışmaya dahil oldu. Bu değerlendirmeler, sektör içerisindeki güvenlik endişelerinin boyutuna ilişkin tartışmaları daha da artırdı.

Öte yandan ABD yönetiminden bazı yetkililer yeni yapay zeka kısıtlamalarına yönelik baskıya mesafeli yaklaşırken, Çin Dışişleri Bakanlığı da sektörün geliştirme hızının düşürülmesine yönelik çağrılarını “korku tellallığı” olarak nitelendirdi.