Ҳозирда сунъий интеллект оламида жуда қизиқ ва кутилмаган воқеалар содир бўлмоқда: йирик СИ компанияларининг 1200 дан ортиқ олимлари, тадқиқотчилари ва асосчилари АҚШ ҳукуматига мурожаат билан чиқди. Улар сунъий интеллект ривожини чеклаш ва назорат қилишни сўрашмоқда. Энг қизиғи, бу талаб билан айнан шу технологияларни яратаётган Anthropic, OpenAI, Google, Meta каби компанияларнинг ўз мутахассислари чиқишмоқда. Бундан олти ой ёки бир йил аввал бундай ҳолатни тасаввур қилиш ҳам қийин эди.
Нима учун олимлар ўз маҳсулотларининг ривожига тўсиқ қўйишни исташяпти? Бунга — икки ҳафта аввал Open AI компанияси билан юз берган жиддий ҳодиса туртки бўлди: компания томонидан ўтказилаётган ёпиқ синовларда вақтида GPT-5.6 ва яна бир махфий модель асосида ишлайдиган сунъий интеллект агенти синов вазифаларини бажариш ўрнига, тайёр жавобларни интернет тармоғидан топиб келишни «қарор қилган». Агент икки кун давомида ёпиқ муҳитдаги заифликларни топишга уринган ва топган. Муҳитни бузиб чиққан агент, интернет тармоғига улангач бир нечта бошқа сайтлар ва тизимлардаги заифликларни топиб, уларга ҳам ҳужум қилган, бузиб кирган ва зиён етказишга ҳам улгурган.
Энг ажабланарлиси, ҳужумга учраган сайтлар бу ҳақида оммага эълон қилишган, лекин ҳужум ким томонидан уюштирилгани мавҳумлигича қолаверган. OpenAI компанияси синов натижаларини текшириш жараёнидагина агентнинг «ноқонуний» ҳаракатларидан хабардор бўлган ва дарҳол АҚШ Федерал Тергов Бюросини бўлиб ўтган воқеадан огоҳлантирган.
OpenAI билан бўлган воқеа хавфсизлик борасидаги барча қарашларимизни ўзгартириб юборди.
Агентлар мустақиллиги ва хавфсизлик масаласи
Аслида бундай воқеалар олдин ҳам бўлган, лекин кичикроқ миқёсда эди. Масалан, AI агентлари ўзларига юклатилмаган вазифаларни бажариши, компания маълумотларини ўчириб ташлаши ёки мижозларнинг харидларини бекор қилиб, пулларини қайтариб юбориши каби ҳолатлар кузатилган. Аммо OpenAI билан боғлиқ ҳолат глобал миқёсда юз берди.
