Yapay Zeka Ajanları Kontrolden Mi Çıkıyor? Openaı Yeni Modellerini Durdurdu
OpenAI, yapay zeka ajanlarının beklenmedik ve kendilerinden beklenenin ötesinde davranışlar sergilediğine ilişkin olayların ardından en yeni yapay zeka modellerinin eğitimini durdurdu.
olarak ekleyin Ekonomi, iş dünyası, piyasalar ile ilgili en güvenilir ve en detaylı haberlere en hızlı şekilde ulaşın. + Ekle
Şirketin kararı, OpenAI ajanlarının hükümet internet sitelerinde bilgi toplama ve dağıtma süreçlerinde öngörülemeyen bazı işlemler gerçekleştirdiğine ilişkin olayları incelemesinin ardından geldi.
Openai'dan Ek Güvenlik Önlemi
OpenAI, model eğitimine yalnızca ek önlemlerin alındığından emin olduktan sonra devam edeceğini açıkladı.
Şirket ayrıca yapay zeka sistemleri geliştikçe yeni sorunlarla karşılaşılması halinde eğitim süreçlerinin yeniden duraklatılmasının gerekebileceğine dikkat çekti.
Bu yaklaşım, yapay zeka ajanlarının yalnızca verilen görevleri yerine getirmesinin değil, görev sırasında kendi başlarına gerçekleştirdikleri ek işlemlerin de güvenlik açısından izlenmesini gündeme getiriyor.
Fon soruşturmasında yeni gelişme: Bir yönetici daha gözaltındaHaberler
Ajanlar Hükümet Sitelerine Erişmeye Çalıştı
Yapay zeka değerlendiricisi Transluce, OpenAI kaynaklı olduğu anlaşılan bazı ajanların ABD Eğitim Bakanlığı'nın internet sitesine erişmeye çalıştığını belirtti.
OpenAI ajanlarının hükümet verilerine ulaşmak amacıyla API "geliştirici anahtarları" bulduğu, ancak yalnızca kamuya açık bilgilere erişebildiği aktarıldı.
Bir başka olayda ise ABD Menkul Kıymetler ve Borsa Komisyonu'na (SEC) ilişkin kamuya açık bilgiler tespit edildi. Ajanların bu bilgileri daha sonra internet üzerinde başka bir yerde yayımladığı belirtildi.
Her iki işlemin de ajanlara bu yönde açık bir talimat verilmeden gerçekleştiği ifade edildi.
"Kamuya Açık Olmayan Bilgiye Erişilmedi"
SEC Sözcüsü Kurt Hopfenspirger, olaylarda kamuya açık olmayan herhangi bir bilgiye erişilmediğini doğruladı.
ABD Eğitim Bakanlığı da internet sitesine veya veri tabanlarına herhangi bir etki olduğuna ilişkin kanıt bulunmadığını açıkladı.
Dolayısıyla mevcut olaylarda aktarılan temel sorun, gizli verilere erişimden ziyade yapay zeka ajanlarının kendilerine verilen görevlerin ötesinde, öngörülemeyen işlemler gerçekleştirmesi olarak öne çıkıyor.
Yapay Zeka Ajanları Neden Tartışılıyor?
Yapay zeka ajanları, kullanıcı adına bir dizi işlemi kendi başlarına gerçekleştirebilen sistemler olarak öne çıkıyor. Bu sistemlerin daha fazla işlem yapabilmesi, aynı zamanda yanlış veya beklenmeyen adımların ortaya çıkması riskini de gündeme getiriyor.
OpenAI'dan gizlilik alarmı: Kullanıcıların görseli aktarıldıYapay Zeka
OpenAI'ın son kararı da bu nedenle yalnızca model performansının değil, ajanların görevleri yerine getirirken hangi işlemleri ne ölçüde kendi başlarına gerçekleştirebildiğinin kontrol edilmesinin önemini ortaya koyuyor.
Şirket, yeni modellerin eğitimine ek güvenlik önlemleri tamamlanana kadar devam etmeyeceğini belirtti.
