OpenAI araştırmacıları 'insanlığı tehdit eden model' konusunda uyarıyor - Dünyadan Güncel Teknoloji Haberleri

OpenAI araştırmacıları 'insanlığı tehdit eden model' konusunda uyarıyor - Dünyadan Güncel Teknoloji Haberleri
Somut olarak, bir insan gibi, bu yapay zeka mevcut bilgisini yeni sorunları çözmek için uygulayabilir

Gelişimin hızına dikkat

Araştırmacılar mektuplarında yönetim kurulunu “Q-Star modelinin insanlığı yok edecek kadar güçlü bir sistem olarak kullanılabileceği” ve “gelişme hızı konusunda dikkatli olması” gerektiği konusunda uyardı Bu olayın nedeni, insanlığı tehdit eden ve birçok OpenAI araştırmacısı tarafından oluşturulan güçlü bir yapay zeka modeli olabilir Somut olarak bu, yapay zekanın bilmediği verilerle ilgili soruları yanıtlayamayacağı anlamına geliyor


OpenAI CEO’sunun geçen hafta kovulmasının ardındaki nedenler ortaya çıkmaya başlıyor ”

OpenAI haberlerinde daha ileri gitmek için


Kaynak : “ZDNet Kore”



genel-15

Ancak yapay zeka araştırmacıları için bu teknolojik bir atılımdır

Sam Altman, aynı hafta Asya-Pasifik Ekonomik İşbirliği (APEC) zirvesinde kovulmadan kısa bir süre önce “OpenAI bilinmeyenin perdesini kaldırabilir ve teknolojik ilerlemenin sınırlarını zorlayabilir” dedi ve “şirkete liderlik etmekten onur duyduğunu” ekledi tarihinin bu döneminde

Ama görünen o ki Q* çok farklı

Bilgiye Göre, bir grup OpenAI araştırmacısı birkaç gün önce kurula bir mektup göndererek süper güçlü genelleştirilmiş yapay zekanın (AGI) varlığından bahsetti Bu nedenle aldığı veri setinde yer almayan yeni hesaplama problemlerini çözebilmektedir Bu yapay zeka, ek veri öğrenmeden bilgisayar sorunlarını anlayabilir ve çözebilir Mektup, Sam Altman’ın kovulmasıyla sonuçlanan toplantıdan kısa bir süre önce gönderilmişti

Meslekten olmayan biri için bu yetenek basit görünebilir Ve yalnızca verilerden öğrenme bağlamında sonuç sağlayabilir

Soru* çok farklı

ChatGPT gibi üretken yapay zeka, istatistiklere ve olasılığa dayalı olarak bir sonraki kelimeyi tahmin ederek içerik üretir Bu yapay zeka mevcut modellerden onlarca kat daha hızlı gelişecektir The Verge, “Q-Star’ın matematik problemlerini kendi başına çözme yeteneği, AGI’ye yaklaştığımızın bir işareti” diye açıklıyor Ve bunların hepsi gerçek bir bilim kurgu senaryosuna benziyor

Makaleye göre yapay zeka modeline Q* adı veriliyor ve “Q Star” olarak telaffuz ediliyor Araştırmacılar, modelin matematiksel yeteneklerini test ettikten sonra performansı karşısında şok olduklarını söylüyorlar