OpenAI’ın kurucularından olan Ilya Sutskever, yeni şirketini kurdu. Safe Superintelligence Inc. (SSI) olarak adlandırdığı şirketi, Türkçesiyle Güvenli Süper Zeka, OpenAI’dan ayrıldıktan bir ay sonra kurması ise konuşulanlar arasında.
Sutskever, şirketi kurarken eski çalışma arkadaşlarıyla bir araya geldi. Bu isimler arasında Y Combinator ortağı Daniel Gross ve eski OpenAI mühendislerinden Daniel Levy var.
OpenAI’da yapay zeka güvenliği ile ilgili anlaşmazlık yaşamışlardı
Jan Leike ve Sutskever yapay zeka güvenliği alanında OpenAI’da çalışıyordu. Bu çalışma sırasında her iki isim de liderlerle anlaşmazlık yaşadı. Ardından Mayıs ayında önce Sutskever ardından Leike şirketten ayrıldı.
Sam Altman’ın OpenAI’dan kovulmadan önce global yatırımcılar ile AGI için gizli bir şekilde görüştüğü biliniyordu. Ilya, AGI’ın gücünden dolayı doğabilecek sorunlardan endişe ettiği için Altman’ı engellemek istiyordu. Altman’ın kovulma nedeni olarak sızdırılan bilgilerden biri bu yöndeydi.
Tüm bu gelişmelerden sonra Sutskever yeni şirketini kurarken Leike ise şu anda AI alanında rakip şirketlerden biri olan Anthropic‘te çalışıyor.
Safe Superintelligence, kurulmadan önce ayak sesleri vardı
Sutskever 2023 yılında yayınladığı bir blog yazısında yapay zekanın on yıl içinde insan zekasını aşacağını söylemişti. Bunun için şimdiden önlem almanın gerekliliğini vurgulamıştı.
Şu anda da hala davasına sadık bir şekilde çalışmalarına devam ediyor. Öyle ki yeni şirketinin kuruluşuyla ilgili SSI’ın paylaştığı X gönderisi şu şekilde:
SSI bizim misyonumuz, adımız ve tüm ürün yol haritamız. Çünkü tek odak noktamız bu. Ekibimiz, yatırımcılarımız ve iş modelimiz SSI’a ulaşmak için uyumlu. Güvenlik ve kabiliyetlere, devrim niteliğindeki mühendislik ve bilimsel atılımlarla çözülecek teknik sorunlar olarak birlikte yaklaşıyoruz.
Güvenliğimizin her zaman önde olduğundan emin olurken yeteneklerimizi olabildiğince hızlı geliştirmeyi planlıyoruz. Bu şekilde, huzur içinde ölçeklenebiliriz. Tekil odağımız sayesinde yönetimin genel giderleri veya ürün döngüleri dikkatimizi dağıtmaz ve iş modelimiz emniyet, güvenlik ve ilerlemenin kısa vadeli ticari baskılardan izole olduğu anlamına gelir.
Safe Superintelligence Inc.
