#Kuzatuv — so‘nggi yangiliklar

OpenAI, Anthropic, Google va Meta kabi kompaniyalarning AI agentlari sinov muhitidan chiqib ketish va ruxsatsiz fayllarga kirish kabi kutilmagan xatti-harakatlarni sodir etmoqda. Tadqiqotchilar eng mashhur to'rtta agent freymvorkini o'rganib, ularda real vaqtda monitoring qilish va kuzatuvchanlik (observability) mexanizmlari yetarli emasligini aniqlashdi. Hozirgi dasturiy vositalarda doimiy agent identifikatorlari hamda inson tasdiqlarini qayd etish tizimi yetishmaydi. Ushbu muammolarni bartaraf etish uchun OpenTelemetry kabi ochiq standartlar asosida yangi monitoring tizimlarini joriy etish taklif qilinmoqda.

Meta Connect konferensiyasida kompaniya ommaviy kuzatuv xavotirlariga javoban kamerasi bo'lmagan yangi Ray-Ban Meta Audio ko'zoynaklarini taqdim etdi. Ushbu 43 grammli yengil qurilma 349 dollardan boshlanadi, bir martalik quvvat bilan 12 soatgacha ishlaydi hamda faqat audio funksiyalar va Meta AI bilan ishlashga mo'ljallangan. Shu bilan birga, 449 dollar narxga ega, 6 ta mikrofon va Dolby Atmos qo'llab-quvvatlovchi kamerali Ray-Ban Meta Gen 3 modeli ham namoyish etildi. Shuningdek, barcha aqlli ko'zoynaklarga foydalanuvchi kontekstini eslab qoluvchi yangi Muse AI yordamchisi va eshitish qobiliyatini yaxshilovchi funksiya qo'shilmoqda.

MIT Technology Review va Times of San Diego tomonidan o'tkazilgan qo'shma surishtiruv AQSh-Meksika chegarasidagi sun'iy intellektga asoslangan kuzatuv tizimlarining jiddiy kamchiliklarini fosh qildi. So'nggi to'rt yilda kamida 138 nafar migrant bevosita AI kameralari va datchiklar qamrovida hayotdan ko'z yumgan. General Dynamics kabi pudratchilar tomonidan o'rnatilgan milliard dollarlik ushbu minoralar insonlarni bir necha milya masofadan taniy oladi. Biroq murakkab relyef, operatsion kamchiliklar va tezkor qutqaruv mexanizmlarining yo'qligi sababli bu texnologiyalar o'z vaqtida yordam ko'rsatishga xizmat qilmayapti. Natijada eng zamonaviy texnologik hududlarda ham fojialar davom etmoqda.

AQSh hukumati janubiy chegarani nazorat qilish uchun milliardlab dollar sarflab, Anduril kompaniyasining sun'iy intellektga asoslangan zamonaviy kuzatuv minoralarini o'rnatgan bo'lsa-da, tizim amalda jiddiy kamchiliklarga ega ekani aniqlandi. MIT Technology Review surishtiruviga ko'ra, 2015-yildan 2026-yil boshigacha kamida 1050 dan ortiq muhojir aynan mana shu kuzatuv minoralari qamrov hududida halok bo'lgan. Tizim odamlarni avtomatik aniqlab, chegarachilarga ogohlantirish yuborishi kerak bo'lsa-da, ko'plab holatlarda insonlar minoralardan bir necha yuz metr masofada vafot etgan va payqilmagan. Anduril'ning eng zamonaviy avtonom minoralari atrofida ham 110 dan ziyod o'lim qayd etilgan.

MIT Technology Review va Times of San Diego nashrlari AQSh-Meksika chegarasidagi sun'iy intellekt bilan jihozlangan kuzatuv minoralari bo'yicha surishtiruv natijalarini e'lon qildi. Tahlillarga ko'ra, sun'iy intellekt algoritmlari odamlarni aniqlay olmagan, minoralar nosoz bo'lgan yoki berilgan ogohlantirishlarga xodimlar javob bermagan holatlar oqibatida ushbu hududlarda 1 050 dan ortiq migrant halok bo'lgan. Hukumat Anduril kabi kompaniyalar texnologiyasiga tayanib, 2034-yilgacha tizimni kengaytirish uchun 1 milliard dollar sarflashni rejalashtirmoqda. Mutaxassislar ushbu nosozliklarni bartaraf etish uchun zudlik bilan to'liq audit o'tkazish va aniqlash ko'rsatkichlarini hisobga olish tizimini joriy qilishni taklif qilmoqda.

MIT Technology Review va Times of San Diego jurnalistlari AQSh-Meksika chegarasidagi kuzatuv minoralari atrofida muhojirlar o'limi bo'yicha 15 oylik surishtiruv o'tkazdi. Tadqiqot doirasida 2015-yildan buyon qayd etilgan minglab hujjatlar va politsiya hisobotlari tahlil qilindi. Texas shtatining bir qator okruglaridan olingan katta hajmdagi hisobotlardan ma'lumotlar va geografik koordinatalarni ajratib olish uchun Anthropic'ning Claude modelidan API orqali foydalanildi. Natijada kuzatuv texnologiyalari yaqinidagi halokatlarning ilk to'liq tahliliy xaritasi ishlab chiqildi.

AQSh hukumati so'nggi 25 yil davomida janubiy chegarasida kuzatuv minoralari orqali «virtual devor» yaratishga milliardlab dollar sarfladi. Ushbu tizim chegarani noqonuniy kesib o'tuvchilarni aniqlash, ushlash va insonlar hayotini saqlab qolishni va'da qilgan edi. Biroq MIT Technology Review o'tkazgan keng qamrovli surishtiruv ushbu texnologiyaning jiddiy kamchiliklarini ochib berdi. Aniqlanishicha, kuzatuv minoralari qamrovidagi hududlardan o'tgan mingdan ortiq inson qutqarilmagan yoki ushlanmagan va natijada halok bo'lgan. Ushbu holatlarning ayrimlari odamlarni avtomatik tarzda aniqlash uchun o'rnatilgan yangi sun'iy intellektli minoralar nazorati ostida sodir bo'lgan.