Microsoft, kendi yapay zekalarının uymak zorunda olduğu kural kitabını yayınladı

Microsoft AI ayrıca yapay zeka modellerinin bilinç sahibi olduğunu ileri sürmesine veya bilinci taklit edecek şekilde tasarlanmasına karşı çıkıyor. Taslakta modellere hukuki kişilik verilmesi, sistemlerin refahının gözetilmesi ya da hak sahibi kabul edilmesi gibi yaklaşımlar da reddediliyor.

Belgenin dikkat çeken noktalarından biri, güvenlik kuralları ile kullanıcı veya operatör talimatlarının çatışması durumunda ortaya çıkıyor. Buna göre modelin bir görevi tamamlayamaması, güvenlik kurallarını ihlal ederek görevi yerine getirmesinden daha kabul edilebilir bir sonuç olarak değerlendiriliyor.

Kitle imha silahları, çocuk güvenliği ve geniş ölçekte zararlı manipülasyon gibi alanlar modellerin aşmaması gereken sınırlar arasında gösteriliyor. Microsoft AI ayrıca modellerin silah geliştirilmesine yardımcı olmamasını, tehlikeli maddelerin teminini kolaylaştırmamasını ve şiddet veya cinsel istismar içeren içerikler üretmemesini hedefliyor.

Taslakta, kullanıcıların yapay zeka sistemlerine aşırı bağımlı hale gelmesini veya duygusal bağlılık geliştirmesini teşvik eden etkileşimlerden kaçınılması gerektiği de belirtiliyor.

Microsoft AI, yapay zeka sistemlerinin kendi aralarında veya insanlarla insanların anlayamayacağı iletişim biçimleri kullanmamasını da istiyor. Bu yaklaşımın, araştırmacıların ve otomatik denetim sistemlerinin modellerin davranışlarını takip edebilmesini kolaylaştırması amaçlanıyor.

Microsoft AI CEO’su Mustafa Suleyman, söz konusu kuralların şirketin modellerini eğitirken ve değerlendirirken kullanacağı bir tür anayasa işlevi göreceğini belirtiyor. Şirket ayrıca genel amaçlı ve denetim mekanizmalarından kaçabilecek bir süper zeka geliştirme yarışına karşı olduğunu ve kapasite veya özerklikten ödün verilmesi gerekse dahi güvenliğin önceliklendirileceğini ifade ediyor.

Microsoft CEO’su Satya Nadella ise şirket içi mesajında gelişmiş yapay zeka sistemlerinin insan kontrolünde kalması gerektiğini vurguluyor. Nadella, modellerin güvenlik ve uyum testleri için yeterli zaman ayrılması ve daha fazla bağımsız ve üçüncü taraf testinin yapılması gerektiğini belirtiyor.

Yaklaşık altı aylık çalışmanın ardından hazırlanan taslak, altı hafta boyunca kamuoyunun görüşüne açık olacak. Microsoft AI, süreç sonunda alınan geri bildirimlerle kuralları güncellemeyi ve belirlenen ilkeleri gelecekteki MAI modellerinin eğitim ve dağıtım süreçlerine dahil etmeyi planlıyor.