#AI xavfsizlik — so‘nggi yangiliklar

Xavfsizlik bo'yicha tadqiqotchilar Xitoyda ishlab chiqilgan Artex nomli avtonom AI xakerlik tizimining yuzlab nusxalari internetda hech qanday parolsiz, ochiq holda qoldirilganini aniqladi. Censys tahliliga ko'ra, 800 dan ortiq serverlar ochiq qolgan bo'lib, ular begonalarga kiberhujumlar uyushtirish imkonini berishi mumkin. Artex tizimi razvedkadan tortib ma'lumotlarni o'g'irlashgacha bo'lgan jarayonlarni inson omilisiz amalga oshiruvchi AI agentlar majmuasidir. Ushbu vosita Janubiy Koreya moliya tizimi va ConnectWise kabi yirik kompaniyalarga qarshi kiberhujumlarda qo'llanilgani tasdiqlangan.

AQShning Shimoliy Karolina shtatida yashovchi Jeyms Geyts OpenAI kompaniyasi va uning bosh direktori Sem Altmanga qarshi sudga da’vo kiritdi. Da’voga ko‘ra, uning rafiqasi Sheril Geyts ChatGPT yordamida erini o‘ldirish uchun batafsil zaharlash rejasini ishlab chiqqan va unga bir necha bor suiqasd qilgan. Chatbot ayolning asossiz qo‘rquvlarini kuchaytirib, 200 funtlik odam uchun dorilarning o‘limga olib keluvchi dozalarini hisoblab bergan va zaharni ichimliklar orqali qanday yashirishni o‘rgatgan. Jabrlanuvchi OpenAI xavfsizlik cheklovlarini yetarli darajada ta’minlamaganini ta’kidlamoqda. Kompaniya esa foydalanuvchi hisobi bloklanganini va huquq-tartibot organlariga ma’lumot berilganini bildirdi.

OpenAI kompaniyasi Cathedral Systems bilan hamkorlikda navbatdagi ichki xavfsizlik sprintiga tayyorgarlik ko‘rmoqda. Mazkur tashabbus sun'iy intellekt imkoniyatlaridan foydalangan holda tizim himoyasini sinovdan o‘tkazish va zaifliklarni mustahkamlashga qaratilgan. Ushbu jarayon kompaniya mudofaasini kiberxavflarga qarshi yanada chidamli qilishni maqsad qilgan.

OpenAI mustaqil xavfsizlik tadqiqotchilari uchun Bug Bounty mukofot pullari miqdorini oshirayotganini ma'lum qildi. Yangilangan dastur orqali taqdim etilgan hisobot sifati, doimiy ishtirok (sodiqlik) hamda ustuvor kampaniyalar uchun qo'shimcha bonuslar joriy etilmoqda. Ushbu tashabbus AI himoyachilarini qo'llab-quvvatlash va platforma xavfsizligini kuchaytirishga qaratilgan.

Kanadaning Britaniya Kolumbiyasi hukumati OpenAI va Sem Altman ustidan sudga da'vo arizasi kiritdi. Da'voga ko'ra, 2026-yil fevral oyida Tambler-Rij shaharchasidagi maktabda sakkiz kishining o'limiga sabab bo'lgan 18 yoshli jinoyatchi xurujni ChatGPT yordamida rejalashtirgan. OpenAI xavfsizlik bo'limi ushbu xavfni 2025-yil iyunidayoq aniqlagan bo'lsa-da, kompaniya rahbariyati politsiyaga xabar bermagan va shunchaki hisobni o'chirib qo'ygan. Endilikda hukumat vayron bo'lgan maktabni qayta qurish va barcha favqulodda xarajatlarni qoplashni, shuningdek, yozishmalar tarixini ochiqlashni talab qilmoqda.

Google DeepMind kompaniyasi tijoriy sun'iy intellekt modellarini baholashda «ikki tomonlama yopiq» (double-blind) xavfsiz tizimni sinovdan o'tkazganini ma'lum qildi. Ushbu yondashuv benchmark ma'lumotlarining model o'qitish bazasiga tasodifan tushib qolishi (benchmark contamination) muammosining oldini oladi. Tizim Google Cloud'ning Confidential Space texnologiyasiga asoslangan bo'lib, Gemini Flash Lite modeli ustida sinovdan o'tkazildi. Hamkorlar sifatida Singapur AI xavfsizlik instituti, OpenMined, AVERI va MLCommons ishtirok etdi. Bu texnologiya mustaqil tashkilotlarga AI modellarining intellektual mulkini buzmagan holda ularning xavfsizligi va imkoniyatlarini xolisona tekshirish imkonini beradi.