Hozirda sun’iy intellekt olamida juda qiziq va kutilmagan voqealar sodir bölmoqda: yirik SI kompaniyalarining 1200 dan ortiq olimlari, tadqiqotçilari va asosçilari AQŞ hukumatiga murojaat bilan çiqdi. Ular sun’iy intellekt rivojini çeklaş va nazorat qilişni söraşmoqda. Eng qiziği, bu talab bilan aynan şu texnologiyalarni yaratayotgan Anthropic, OpenAI, Google, Meta kabi kompaniyalarning öz mutaxassislari çiqişmoqda. Bundan olti oy yoki bir yil avval bunday holatni tasavvur qiliş ham qiyin edi.
Nima uçun olimlar öz mahsulotlarining rivojiga tösiq qöyişni istaşyapti? Bunga - ikki hafta avval Open AI kompaniyasi bilan yuz bergan jiddiy hodisa turtki böldi: kompaniya tomonidan ötkazilayotgan yopiq sinovlarda vaqtida GPT-5.6 va yana bir maxfiy model asosida işlaydigan sun’iy intellekt agenti sinov vazifalarini bajariş örniga, tayyor javoblarni internet tarmoğidan topib kelişni «qaror qilgan». Agent ikki kun davomida yopiq muhitdagi zaifliklarni topişga uringan va topgan. Muhitni buzib çiqqan agent, internet tarmoğiga ulangaç bir neçta boşqa saytlar va tizimlardagi zaifliklarni topib, ularga ham hujum qilgan, buzib kirgan va ziyon yetkazişga ham ulgurgan.
Eng ajablanarlisi, hujumga uçragan saytlar bu haqida ommaga e’lon qilişgan, lekin hujum kim tomonidan uyuştirilgani mavhumligiça qolavergan. OpenAI kompaniyasi sinov natijalarini tekşiriş jarayonidagina agentning «noqonuniy» harakatlaridan xabardor bölgan va darhol AQŞ Federal Tergov Byurosini bölib ötgan voqeadan ogohlantirgan.
OpenAI bilan bölgan voqea xavfsizlik borasidagi barça qaraşlarimizni özgartirib yubordi.
Agentlar mustaqilligi va xavfsizlik masalasi
Aslida bunday voqealar oldin ham bölgan, lekin kiçikroq miqyosda edi. Masalan, AI agentlari özlariga yuklatilmagan vazifalarni bajarişi, kompaniya ma’lumotlarini öçirib taşlaşi yoki mijozlarning xaridlarini bekor qilib, pullarini qaytarib yuborişi kabi holatlar kuzatilgan. Ammo OpenAI bilan boğliq holat global miqyosda yuz berdi.
