Ҳозирда сунъий интеллект оламида жуда қизиқ ва кутилмаган воқеалар содир бўлмоқда: йирик СИ компанияларининг 1200 дан ортиқ олимлари, тадқиқотчилари ва асосчилари АҚШ ҳукуматига мурожаат билан чиқди. Улар сунъий интеллект ривожини чеклаш ва назорат қилишни сўрашмоқда. Энг қизиғи, бу талаб билан айнан шу технологияларни яратаётган Anthropic, OpenAI, Google, Meta каби компанияларнинг ўз мутахассислари чиқишмоқда. Бундан олти ой ёки бир йил аввал бундай ҳолатни тасаввур қилиш ҳам қийин эди.
Нима учун олимлар ўз маҳсулотларининг ривожига тўсиқ қўйишни исташяпти? Бунга — икки ҳафта аввал Open AI компанияси билан юз берган жиддий ҳодиса туртки бўлди: компания томонидан ўтказилаётган ёпиқ синовларда вақтида GPT-5.6 ва яна бир махфий модель асосида ишлайдиган сунъий интеллект агенти синов вазифаларини бажариш ўрнига, тайёр жавобларни интернет тармоғидан топиб келишни «қарор қилган». Агент икки кун давомида ёпиқ муҳитдаги заифликларни топишга уринган ва топган. Муҳитни бузиб чиққан агент, интернет тармоғига улангач бир нечта бошқа сайтлар ва тизимлардаги заифликларни топиб, уларга ҳам ҳужум қилган, бузиб кирган ва зиён етказишга ҳам улгурган.
Энг ажабланарлиси, ҳужумга учраган сайтлар бу ҳақида оммага эълон қилишган, лекин ҳужум ким томонидан уюштирилгани мавҳумлигича қолаверган. OpenAI компанияси синов натижаларини текшириш жараёнидагина агентнинг «ноқонуний» ҳаракатларидан хабардор бўлган ва дарҳол АҚШ Федерал Тергов Бюросини бўлиб ўтган воқеадан огоҳлантирган.
OpenAI билан бўлган воқеа хавфсизлик борасидаги барча қарашларимизни ўзгартириб юборди.
Агентлар мустақиллиги ва хавфсизлик масаласи
Аслида бундай воқеалар олдин ҳам бўлган, лекин кичикроқ миқёсда эди. Масалан, AI агентлари ўзларига юклатилмаган вазифаларни бажариши, компания маълумотларини ўчириб ташлаши ёки мижозларнинг харидларини бекор қилиб, пулларини қайтариб юбориши каби ҳолатлар кузатилган. Аммо OpenAI билан боғлиқ ҳолат глобал миқёсда юз берди.
Шу ўринда агентлар ўзи нима, уларнинг биз кундалик ишлатадиган ChatGPT ёки Claude дастурларидан қандай фарқи бор, деган саволга жавоб бериб кетайлик. Одатда, агентлар деганда берилган вазифани бажариш учун фойдаланувчи номидан мустақил ҳаракатлана оладиган СИ дастурларини тушунамиз. Бундай дастурлар оддий чатботлардан фарқли ўлароқ қўшимча имкониятларга, хотирага, кўникмаларга эга бўлади. Улар ҳозирги кунда агентлар секин-асталик билан оммалашиб бормоқда.
Йирик СИ компаниялар ҳам чатботлардан агентлар томон қадам қўймоқда. Масалан, Google омма учун Spark, Microsoft эса Autopilot шахсий агентини тақдим қилди. Кўпинча агентларга фойдаланувчининг шахсий маълумотлари ёки ташкилот ҳужжатларига кириш ҳуқуқи берилган бўлади. Агентлар маълум бир вазифалар учун яратилади: молиявий ҳисоботлар, иқтисодий таҳлиллар, ишчи режаларни тузувчи, қўнғироқларни таҳлил қилувчи, электрон хатларга (e-mail) жавоб берувчи ва ҳоказо.
Илгари биз СИ агентларини киберҳужумлардан ҳимоя қилиш ҳақида ўйлар эдик. Яъни кимдир бизнинг агентимизга ҳужум қилиб, шахсий ёки ташкилот маълумотларини ўғирлаб кетмасин деб хавотир олардик. Энди эса вазият бутунлай тескари: бизнинг агентларимиз интернетда юриб, бошқаларга ҳужум қилиб қўймасин деган масала ўртага чиқди. Бу ерда жуда катта ҳуқуқий савол туғилади: агар сизнинг шахсий ёки компаниянгиз агенти мустақил қарор қабул қилиб, қонунни бузса ёки кимгадир моддий зарар етказса, бунга ким жавоб беради? Агентни ишлаб чиққан компаниями, агент ортида турган СИ моделни яратган ташкилотми ёки фойдаланувчи сифатида сизми? Бу саволлар ҳозирча очиқ қолмоқда.
Ёпиқ моделлар, очиқ вазнлар ва «Kill Switch»
Агентлар кучли бўлиши учун уларнинг ортида кучли СИ моделлар туради. АҚШдаги йирик моделлар — Opus (Anthropic), Gemini (Google) ёки GPT (OpenAI) — булар ёпиқ моделлар бўлиб, ўз компаниялари назорати остида туради. АҚШ ҳукумати ҳозирда «AI Kill Switch» (фавқулодда тўхтатиш тугмаси) қонуни устида ишламоқда. Яъни, зарурат туғилганда битта қарор билан моделни (ва у қўллаб турган барча агентларни) тўхтатиб қўйиш имконияти кўзда тутилмоқда.
Лекин танганинг иккинчи томони бор бу — очиқ вазнли моделлар. Бундай моделларни исталган одам интернетдан юклаб олиши, ўзгартириши ва исталган мақсадда фойдаланиши мумкин. Одатда бундай моделлар ёпиқ моделларга нисбатан секинроқ, сифатсизроқ ва умуман олганда ривожланишда 1-2 йил ортда юрарди.
Лекин бу соҳада ҳам кескин ўзгариш юз берди. Сўнгги олти ой ичида Хитой лабораториялари томонидан тақдим қилинган очиқ вазнли моделлар кутилмаганда АҚШнинг энг кучли ёпиқ моделлари билан деярли бир хил (баъзи ҳолатларда эса яхшироқ) натижа кўрсата бошлади. Нарх жиҳатдан эса улар каррасига арзон ёки мутлақо бепул. Бу эса АҚШ компаниялари ва ҳукуматини саросимага солиб қўйди. Anthropic ва OpenAI компанияси раҳбарлари ҳукуматдан бундай моделларни чиқараётган компаниялар устидан назоратни кучайтиришни сўраган бўлса, АҚШ молия вазири Скотт Бессент Хитой моделларига санкциялар қўллаш таҳдиди билан чиқди.
Сингулярлик нуқтасига етиб келдикми?
Яқинда Сам Алтман бир фикрни илгари сурди: биз «сингулярлик нуқтаси»га етиб келдик. Сингулярлик — бу шундай бир нуқтаки, ундан кейин СИ ривожини тўхтатиб бўлмайди. Технология шундай тезлик билан ривожланишни бошлайдики, у энди ўзини ўзи ривожлантиришга ўтади. Биз уни назорат қилиш, ўзгартириш ёки тўхтатишда ожиз қоламиз. Кўпчилик бу узоқ келажакда содир бўлади деб ўйлар эди, лекин мутахассисларнинг фикрича, биз аллақачон шу даврнинг ичидамиз.
Агентлар энди ўзи мустақил қарор қабул қиляпти, биз ундан сўрамаган нарсаларни ўрганяпти. Унинг фикрлаш жараёнини ва қандай қилиб маълум бир қарорга келганини биз ҳар доим ҳам англай олмаяпмиз. Бу инсоният ва сунъий интеллект муносабатларидаги энг кескин бурилиш нуқтаси бўлиши мумкин. Сунъий интеллектнинг бугунги даражага етишига чекловлар йўқлиги сабаб бўлган эди. Аммо энди чекловлар қўйилиши ривожланишни секинлаштирадими ёки аксинча, бизни фалокатдан қутқариб қоладими? Бу баҳс очиқлигича қолмоқда.
Анвар Нарзуллаев
Сунъий интеллект технологиялари мутахассиси,
"Mohirdev" компанияси раҳбари.
