Anthropic AI modellarining haqiqiyligini tekshiruvchi FlashProve tizimini taqdim etdi

Anthropic kompaniyasi sun'iy intellekt modeli bergan javobning haqiqiyligini tekshirishga mo'ljallangan FlashProve nomli ochiq kodli tizimni ishlab chiqmoqda. Tadqiqotchilar ushbu mexanizmni 'isbotlanishi mumkin bo'lgan xulosa' (provable inference) deb atashmoqda. Tizim foydalanuvchi olgan ma'lumot aynan ular kutgan model tomonidan ishlab chiqilganini matematik va kriptografik usulda kafolatlaydi.

FlashProve elektron xatlarning haqiqiy jo'natuvchisini tasdiqlovchi kriptografik imzolarga o'xshash tarzda ishlaydi. U orqali hatto modelni ishlab chiqqan kompaniyaning o'zi ham bir modelni boshqasi sifatida yashira olmaydi. Yangi vosita sun'iy intellekt kompaniyalarining xarajatlarni kamaytirish uchun qimmat model o'rniga yashirincha arzonini taqdim etishi yoki natijalarni bo'rttirib ko'rsatishining oldini oladi. Shuningdek, uchinchi tomonlarning biror vazifani ilg'or AI modeli yordamida bajargani haqidagi da'volarini tekshirish imkonini beradi.

Tizim ishlashi uchun AI laboratoriyalari o'zlari chiqargan har bir modelning maxsus 'raqamli izi'ni (fingerprint) ochiq e'lon qilishi lozim. Muhimi shundaki, ushbu izlar modelning ichki vaznlarini (weights) va yopiq parametrlarini oshkor qilmaydi. Natijada Anthropic va OpenAI kabi kompaniyalar o'z intellektual mulkini sir saqlagan holda tizimdan foydalana oladi. Tekshirish jarayoni yengil tuzilgani bois uni foydalanuvchining shaxsiy qurilmasida ham amalga oshirish mumkin.

Anthropic loyihaning texnik xususiyatlari va ishchi kodini GitHub platformasida ochiq litsenziya ostida e'lon qildi. Kompaniya ushbu tadqiqot hali to'liq yakunlanmaganini, bu faqat oraliq natija ekanini va hozircha tizimni amaliyotga joriy etish rejalashtirilmaganini qayd etdi.