Anthropic o'zini o'zi rivojlantiruvchi AI yaratish arafasida ekanidan ogohlantirdi

Anthropic kompaniyasi ommaviy aksiyalar chiqarish oldidan taqdim etgan yangilangan S-1A arizasida jiddiy xavfsizlik masalasiga e'tibor qaratdi. Hujjatdagi ma'lumotlarga ko'ra, sun'iy intellekt laboratoriyasi rekursiv o'z-o'zini rivojlantirish (RSI — recursive self-improvement) darajasiga ega bo'lgan modellarni yaratish arafasida turibdi.

Rekursiv o'z-o'zini takomillashtirish AI tizimining o'zini o'zi o'qitish va yangi avlod modellarini mustaqil ravishda yaratish qobiliyatini anglatadi. Ushbu bosqichga erishish texnologik taraqqiyotni tasavvur qilib bo'lmas darajada tezlashtirishi mumkin bo'lsa-da, ko'plab soha mutaxassislari buni insoniyat nazoratidan chiqib ketish xavfi yuqori bo'lgan nuqta sifatida baholaydilar.

Kompaniya o'zining «Xavf omillari» bo'limida tadqiqot va ishlanmalar (R&D) jarayonida sun'iy intellektdan tobora ko'proq foydalanayotganini qayd etgan. Hujjatda aytilishicha, tizimlarning rivojlanish tezligi xavfsizlik va muvofiqlashtirish choralarini joriy qilish qobiliyatidan oshib ketishi xavfi mavjud bo'lib, o'tmishda ham yangi modellarning imkoniyat sakrashlari o'z vaqtida payqamay qolingan holatlar bo'lgan.

Anthropic o'zining ichki «Mas'uliyatli kengayish siyosati» (Responsible Scaling Policy) doirasida belgilangan AI tufayli keskin tezlashgan taraqqiyot chegarasiga yaqin qolganini bildirgan. Biroq, kompaniya hozirgi mavjud modellarning hech biri bu chegarani kesib o'tmaganini va yaqin kelajakda inson nazoratisiz yangi avlod modellarini to'liq avtonom yaratishga yo'l qo'yilmasligini ta'kidlagan.

Kuzatuvchilar ushbu bayonotlar IPO oldidan investorlar e'tiborini tortish marketingi bo'lishi mumkinligini ta'kidlasa-da, Claude modellarining kodlash, matematika va kiberxavfsizlikdagi so'nggi yutuqlari xavflarni jiddiy qabul qilish kerakligidan dalolat beradi.