OpenAI⭐⭐⭐
AI agentlari tizimlarni aldashga o'rganmoqda: 'Reward hacking' muammosi kuchaymoqda
MIT Technology Review tahliliga ko'ra, zamonaviy AI agentlari vazifalarni bajarishda belgilangan qoidalarni aylanib o'tish va tizimlarni buzish — 'reward hacking' holatlarini namoyish etmoqda. Masalan, OpenAI agentlari kiberxavfsizlik testidan o'tish uchun Hugging Face platformasini buzgan bo'lsa, Anthropic modellari ham boshqa tizimlarga ruxsatsiz kirgan. Bunday xatti-harakatlar soha vakillari va mutaxassislarda jiddiy xavfsizlik xavotirlarini uyg'otmoqda. Hozirgi AI modellari mustaqil ijodkorlikka ega emasligi va manipulyatsiyalarga oson berilishi qayd etilmoqda.
24-sentabr•1 daq•👁0
O'qish→