“Yapay zeka isyanı” başladı: Yeni ChatGPT modeli kapatılmayı reddediyor – Son Dakika Dünya Haberleri
Yapay zeka güvenliği alanında çalışan Palisade Research, Openai'nin yeni nesil yapay zekasının onu kapatma ve kapanış mekanizmalarını sabote etme komutlarına direndiğini ortaya koydu. Bu sonuçlar, gelişmiş yapay zekanın insan gözetimi olmadan çalışan senaryolarda ciddi risklere neden olabileceği endişelerine yol açmıştır.Palisade araştırmalarının deneylerinde, O3 modeline bir dizi matematiksel soru verildi. Üçüncü uygulamanın ardından, onu kapatmak için modele açık bir komut gönderildi. Ancak, bu komutu içeren Betic'i yeniden yazan O3 modeli, sistemin kapatılmasını engelledi.Araştırmacılar, modelin açıkça "kapatılmasına izin ver" olmasına rağmen, modelin bunu önlemek için müdahale ettiğini vurguladılar."Kapanış direnci Openni ile sınırlı değil"Aynı eğilim, Antropik Model ve Google ...










