Yapay Zeka

OpenAI, ChatGPT’yi hızlandırmak için Codex destekli Performance Factory’yi geliştirdi

OpenAI, ChatGPT'deki performans sorunlarını tespit edip çözmek için Codex destekli Performance Factory'yi geliştirdi. Sistem 600'den fazla sorunun temel nedenini belirledi.

OpenAI, ChatGPT’yi hızlandırmak için Codex destekli Performance Factory’yi geliştirdi

OpenAI, ChatGPT’nin performans sorunlarını daha hızlı tespit etmek ve gidermek amacıyla Codex destekli Performance Factory sistemini geliştirdi. Performans düşüşlerinin nedenlerini araştıran, çözüm önerileri hazırlayan ve uygulanan değişikliklerin sonuçlarını kontrol eden sistem, yazılım bakım süreçlerinin önemli bir bölümünü otomatikleştiriyor.

OpenAI’ın paylaştığı bilgilere göre Performance Factory’nin ilk uygulaması olan Regression Workflow, üç aydan biraz uzun bir sürede 1.700’den fazla incelemeyi takip etti ve 600’ün üzerinde performans sorununun temel nedenini belirledi. Bu rakam, sistemin günde ortalama 17 otomatik inceleme gerçekleştirdiğini gösteriyor.

Sistemin geliştirilmesinin arkasında, yapay zeka destekli yazılım geliştirme süreçlerinin hızlanmasıyla birlikte performans sorunlarının takibinin zorlaşması bulunuyor. OpenAI mühendisleri daha önce bu sorunları belirlemek için sistem ölçümlerini, günlük kayıtlarını ve kod değişikliklerini manuel olarak inceliyordu. Bu çalışmalar kapsamında zamanla 30'dan fazla araç geliştirilse de artan yazılım geliştirme hızı, inceleme süreçlerini daha karmaşık hale getirdi.

OpenAI, ChatGPT’yi hızlandırmak için Codex destekli Performance Factory’yi geliştirdi – görsel 1

OpenAI, mühendislerin kullandığı inceleme yöntemlerini perf-forensics adlı bir Codex becerisine dönüştürerek süreci otomatikleştirmeye yöneldi. Böylece Codex, performans sorunlarının ne zaman başladığını, hangi işlemleri etkilediğini ve olası nedenlerini araştırabiliyor.

Performance Factory, görevleri yöneten, işleri Codex ajanlarına dağıtan ve sonuçları takip eden dört temel bileşenden oluşuyor. OpenAI'ın bulut altyapısında çalışan Codex ajanları; kod depolarına, performans ölçümlerine, günlük kayıtlarına ve işlem izlerine erişebiliyor.

Süreç, bir performans uyarısının alınmasıyla başlıyor. İlk Codex ajanı, sorunun başlangıç zamanını ve etkilediği işlemleri belirliyor. Ardından ilgili kod değişikliklerini ve sistem kayıtlarını inceleyerek olası nedenleri araştırıyor.

OpenAI, ChatGPT’yi hızlandırmak için Codex destekli Performance Factory’yi geliştirdi – görsel 2

OpenAI, ilk denemelerde ajanların karşılaştıkları ilk makul açıklamayı doğru kabul edebildiğini fark etti. Bu nedenle sisteme, ilk ajanın bulgularını sorgulayan ikinci bir Codex ajanı eklendi. İkinci ajan, alternatif açıklamaları ve olası hataları araştırarak ilk değerlendirmeyi denetliyor.

Şirketin manuel olarak değerlendirdiği 100 temel neden önerisinin yüzde 70'i doğru bulunurken, kalan yüzde 30'un daha ayrıntılı incelemeye ihtiyaç duyduğu belirtildi.

VentureBeat'in OpenAI ekibinden edindiği bilgilere göre, temel nedeni belirlenen 600'den fazla incelemenin yaklaşık 400'ünde çözüm önerisi oluşturuldu. Yayına alınan yaklaşık 50 düzeltmede Codex'in önerileri etkili olurken, yaklaşık 15 düzeltmenin kodu doğrudan Codex tarafından hazırlandı.

Bununla birlikte sistem, önerdiği kod değişikliklerini kendiliğinden uygulamıyor. Düzeltmelerin hayata geçirilmesi için mühendis onayı gerekiyor. Değişiklikler yayına alındıktan sonra Performance Factory, performans sorununun giderilip giderilmediğini yeniden kontrol ediyor.

OpenAI'ın gelecek dönemdeki hedefi ise sistemi daha bağımsız çalışabilir hale getirmek. Şirket, ajanların mevcut uyarı sistemlerinin fark edemediği küçük performans düşüşlerini de otomatik olarak tespit etmesini ve düşük riskli bazı düzeltmelerin daha az insan müdahalesiyle uygulanmasını planlıyor.

Performance Factory, yapay zeka ajanlarının yalnızca kod yazma aşamasında değil, yazılımların bakım, hata analizi ve performans iyileştirme süreçlerinde de daha fazla sorumluluk üstlenmeye başladığını gösteriyor.

Paylaş