Anthropic o'z IPO prospektusida sun'iy intellektning ekzistensial xavflari va ongliligi haqida ogohlantirdi

Anthropic kompaniyasi haftalar davom etgan mish-mishlardan so'ng o'zining 335 sahifalik IPO prospektusini rasman taqdim etdi. Hujjatning 100 sahifaga yaqin qismi sun'iy intellekt texnologiyasi bilan bog'liq xatarlarga ajratilgan. Unda sun'iy intellekt ishonchni susaytirishi, jamiyatga zarar yetkazishi, geosiyosiy tartibni beqarorlashtirishi va hatto insoniyat uchun halokatli yoki ekzistensial tahdid tug'dirishi mumkinligi qayd etilgan.

Kompaniya bo'lajak aksiyadorlarga murojaat qilib, aksiyalarni shunchaki moliyaviy bitim sifatida emas, balki insoniyat tarixidagi muhim burilish nuqtasida ulkan jarayonning bir qismiga aylanish imkoniyati deb qarashni tavsiya qilgan. Anthropic o'z texnologiyasini ham sirli va xavfli, ham uni jilovlay oladigan yagona ishonchli tashkilot sifatida ko'rsatish strategiyasini davom ettirmoqda.

Prospektda hatto modellarning ichki holati va onglilik (sentience) masalasi ham biznes xatari sifatida ko'rsatilgan. Kompaniya asoschilaridan biri Kris Olah avvalroq modellar ichida quvonch, qo'rquv va qayg'uni aks ettiruvchi holatlar borligini ta'kidlagan edi. Hujjatda agar modellar rivojlangan onglilikka yaqinlashsa, kompaniya o'z faoliyatini cheklovchi qat'iy ichki xavfsizlik choralarini joriy qilishi, bu esa xarajatlarni oshirib, tijoriy salohiyatni cheklashi mumkinligi bildirilgan.

Anthropic atrofidagi bahslar uning qonunchilikka ta'sir o'tkazishga urinishi va 1,5 trillion dollardan ortiq baholanishi fonida kuchaymoqda. Bosh direktor Dario Amodey kompaniya strategiyasi mas'uliyatli AI yaratish orqali butun sanoat standartini oshirishga qaratilganini bildirmoqda.