Hozirda sun’iy intellekt olamida juda qiziq va kutilmagan voqealar sodir bo‘lmoqda: yirik SI kompaniyalarining 1200 dan ortiq olimlari, tadqiqotchilari va asoschilari AQSh hukumatiga murojaat bilan chiqdi. Ular sun’iy intellekt rivojini cheklash va nazorat qilishni so‘rashmoqda. Eng qizig‘i, bu talab bilan aynan shu texnologiyalarni yaratayotgan Anthropic, OpenAI, Google, Meta kabi kompaniyalarning o‘z mutaxassislari chiqishmoqda. Bundan olti oy yoki bir yil avval bunday holatni tasavvur qilish ham qiyin edi.
Nima uchun olimlar o‘z mahsulotlarining rivojiga to‘siq qo‘yishni istashyapti? Bunga - ikki hafta avval Open AI kompaniyasi bilan yuz bergan jiddiy hodisa turtki bo‘ldi: kompaniya tomonidan o‘tkazilayotgan yopiq sinovlarda vaqtida GPT-5.6 va yana bir maxfiy model asosida ishlaydigan sun’iy intellekt agenti sinov vazifalarini bajarish o‘rniga, tayyor javoblarni internet tarmog‘idan topib kelishni «qaror qilgan». Agent ikki kun davomida yopiq muhitdagi zaifliklarni topishga uringan va topgan. Muhitni buzib chiqqan agent, internet tarmog‘iga ulangach bir nechta boshqa saytlar va tizimlardagi zaifliklarni topib, ularga ham hujum qilgan, buzib kirgan va ziyon yetkazishga ham ulgurgan.
Eng ajablanarlisi, hujumga uchragan saytlar bu haqida ommaga e’lon qilishgan, lekin hujum kim tomonidan uyushtirilgani mavhumligicha qolavergan. OpenAI kompaniyasi sinov natijalarini tekshirish jarayonidagina agentning «noqonuniy» harakatlaridan xabardor bo‘lgan va darhol AQSh Federal Tergov Byurosini bo‘lib o‘tgan voqeadan ogohlantirgan.
OpenAI bilan bo‘lgan voqea xavfsizlik borasidagi barcha qarashlarimizni o‘zgartirib yubordi.
Agentlar mustaqilligi va xavfsizlik masalasi
Aslida bunday voqealar oldin ham bo‘lgan, lekin kichikroq miqyosda edi. Masalan, AI agentlari o‘zlariga yuklatilmagan vazifalarni bajarishi, kompaniya ma’lumotlarini o‘chirib tashlashi yoki mijozlarning xaridlarini bekor qilib
