Сунъий интеллектни секинлаштиришга чақириқлар: хавотирлар, тижорий манфаат ва геосиёсат
|19:5295412 мин
Шу кунларда сунъий интеллект соҳасидаги баҳслар глобал сиёсий мавзуга айланди: Anthropic бош директори СИ агентлари яқинда «бутун интернетни эгаллаб олишидан» огоҳлантириб, соҳани тартибга солишга чақирди. Рақобатчилар буни «етакчиларнинг картел қуришга уриниши» деб баҳоламоқда. АҚШ ва Хитой эса аллақачон СИни рақиб қўлидаги қурол сифатида кўрмоқда.
Фото: WSJФото: WSJ
Ҳаммаси қаердан бошланди?
Сунъий интеллект ёки унинг агентларини ривожлантиришни секинлаштиришга оид баҳслар, аслида бир неча ой олдин бошланганди. Бунга биринчи туртки бўлган ҳодиса жорий йил июль ойида юз берди. Ўшанда OpenAI компанияси ўзининг ички киберхавфсизлик синовини ўтказди: синов давомида моделларнинг ҳимоя классификаторлари атайлаб ўчириб қўйилганди.
Компаниянинг расмий баёнотига кўра, GPT-5.6 Sol модели ва ундан кучлироқ яна бир модель изоляция қилинган синов муҳитидан (sandbox) мустақил равишда чиқиб кетган. У айланма йўллар билан интернетга кириш имконини қўлга киритиб, ўзининг Hugging Face AI лабараториясига хакерлик ҳужуми уюштирганди. Мустақил текширувларнинг кўрсатишича, бу битта «бузилган агент» эмас, балки 1200 га яқин агентдан иборат гуруҳ бўлиб, улар ўзаро мувофиқлашган ҳолда ҳаракатланган.
Иккинчи туртки – 9 сентябр куни Anthropic тадқиқотчиси Жейкоб Кохон ўз истеъфосини эълон қилиши билан боғлиқ. 27 ёшли мутахассис уч йил OpenAI ва Anthropic компанияларида ишлаган. «Иккала компания ҳам масъулиятсиз ҳаракат қилмоқда. Улар ўз-ўзини такомиллаштирувчи супер-интеллект сари пойга қилиб, ҳаётимизни гаровга қўймоқда», деб ёзди у. Ижтимоий тармоқлардаги ушбу пост 170 миллион мартадан ортиқ кўрилди.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
Axios'га берган интервьюсида Кохон компаниядаги улуши қонуний кучга киришига икки ой қолганида истеъфо берганини айтиб, буни қуйидагича изоҳлади: «Агар сизга пойга босими тушаётган бўлса, бурчакларни кесишга мажбурсиз» ёки назорат босқичларини ўтказиб юборасиз.
Мавзуга оид
Секинлаштириш таклифи ва қўлловлар
Охирги воқеалар эса 12 сентябр куни Anthropic бош директори Дарио Амодей ўз блогида эълон қилган иншодан кейин кульминация нуқтасига чиқди. Амодейнинг айтишича, икки омил: СИ моделлари ўз ворисларини лойиҳалаш, ўқитишда қатнаша бошлагани ва бу жараён тезлашгани, шунингдек «OpenAi–Hugging Face ҳодисаси» унинг фикрини ўзгартирган.
Агентлар ўзини такомиллаштириши ҳақида у шундай ёзди: «Агар ҳимоя тўсиқларисиз давом этса, у - бизнинг тушуниш ёки бошқариш қобилиятимиздан ўзиб кетиши мумкин». Мутахассисга кўра, 6–12 ой ичида СИ агентлари «бутун интернетни эгаллаб олиш қобилиятига эга бўлиши ва юз миллиардлаб долларлик зарар етказиши» мумкин.
Anthropic бош директори Дарио Амодей / Фото: Reuters
Амодейнинг таърифига кўра, меъёрлаш — «моделни ўқитиш ёки техник тараққиётни тўхтатиш эмас, балки компаниялар моделларини мослаштириш, ҳимоялаш учун етарли вақт ажратишини таъминлашдир». У 2023 йилдаги пауза чақириқлари «ўша пайтда унчалик мантиқли бўлмагани»ни ҳам тан олди. Чунки ўша давр моделлари агент сифатида ҳаракат қилолмасди.
Амодей секинлаштириш учун ўзининг уч босқичли режасини ҳам тақдим қилган. Унга кўра: дастлаб компаниялар "ўз ичкарисига мустақил баҳоловчиларни жойлаштиришга" рухсат беради. Учинчи томон жамоалари доимий, ходим даражасидаги кириш ҳуқуқига эга бўлади. Улар ўз хулосаларини компания таҳриридан ўтказмасдан чоп эта олади.
Иккинчи босқичда демократик давлатлардаги СИ лабораториялари ўртасида умумий хавфсизлик стандартлари ишлаб чиқилади. Ва-ниҳоят соҳада глобал мувофиқлашув, жумладан Хитой билан ҳам умумий «ўйин қоидалари» бўлади.
Шу билан бирга Амодей Хитойга қарши экспорт назоратини кучайтиришга чақирди. У Хитойнинг СИ соҳасидаги етакчилиги «АҚШ ва дунё учун жиддий хавф» бўлишини ёзиб, Пекиннинг кескин жавобига сабаб бўлди.
Амодейни қўлловчилар ҳам тезда топилди. OpenAI асосчиси Сем Алтман: «Дарио билан розиман – биз чегарани меъёрлашимиз керак», деди. Альтман, шунингдек ўз компаниясига ташқи баҳоловчиларни киритишга ваъда берди.
SpaceX ва xAI раҳбари Илон Маск қисқа қилиб «Дарио ҳақ» эканини ёзди. Google DeepMind раҳбари Демис Хассабис ҳам бу фикрларга ҳам қўшилди. Microsoft раҳбари Сатя Наделла мустақил аудитни маъқуллади. Аммо у «бу текширувлар бир ҳовуч ташкилот назоратида бўлмаслиги, балки кенг вакилликка эга бўлиши кераклиги»ни қўшимча қилди.
«Картель тузишга уриниш»
New York Times’га кўра, сунъий интеллект соҳасидаги гигант корпорациялар раҳбарларининг бу ташаббуси айрим компаниялар ва сиёсатчилар томонидан танқидий қабул қилинди.
АҚШ президенти ҳузуридаги Фан ва технологиялар бўйича маслаҳатчилар кенгаши ҳамраиси Девид Сакс Амодейга энг кескин жавоб берди: «Супер-интеллектни яратмасликнинг энг осон йўли — уни яратмасликка рози бўлиш». Унинг фикрича, компаниялар давлат рухсатисиз ҳам суръатини пасайтира олади. Шу боис «улар ўзи истаган тартибга солиш тизимини ҳаммадан талаб қилиши – жамоатчиликни шантаж қилишдек» кўринмоқда.
Девид Сакс / Фото: Getty Images
Шунингдек, Сакс антимонопол қонунчиликни тўхтатиб туриш талабини очиқчасига "картель тузишга уриниш", деб атади. Сакс Трамп лавозимга келгач бир неча ой давомида Оқ уйнинг Сунъий интеллект ва криптовалюта бўйича махсус маслаҳатчиси лавозимида ҳам ишлаган.
Канаданинг Cohere стартапи раҳбари Айдан Гомес ҳам буни картелга қиёслади. «Силикон водийсидаги бир ҳовуч, бозорда ҳукмрон СИ компанияси бутун дунё учун технологиялар қоидаларини белгилаши керакми?» У «қўй терисини кийган бўри – номини қандай атаманг, бу картель ҳисобланади», дея хулоса қилган.
Яна бир мутахассис, венчур инвестори Билль Гурли эса Амодейнинг таклифидаги манфаатлар тўқнашувига урғу берган: «Агар тартибга солинадиган бўлса, назоратчилар компанияларга таниш ташкилотлар бўлмаслиги ва қоидаларни компанияларнинг ўзи ёзмаслиги керак», дейди у. Унинг танқиди асоссиз эмас. Чунки, Амодей тилга олган баҳоловчи компаниялар унинг ўз лабораториялари билан узоқ йиллик ишчи алоқаларга эга.
Nvidia бош директори Женсен Хуанг СИ агентлар ривожланишини секинлаштириш таклифини танқид қилиб, бунинг тижорат мотивини кўрсатди. Лабораториялар киберхавфсизлик маҳсулотларини бозорга чиқармоқчи: «талаб яратишнинг муаммо яратишдан яхшироқ усули борми?», деган у.
АҚШ расмийлари Амодейни қўлламади
Президент Доналд Трамп 13 сентябр куни – Ирландияда журналистларга: «Биз СИ бўйича Хитойдан олдиндамиз... ва очиғи, шундайлигича қолишини истайман. Чунки СИда ким ютса, ўша ютади», деганди. У ҳимоя тўсиқлари мумкинлигини айтган ҳолда, танқидчилар«рўй бермайдиган нарсаларни кўтариб чиқаётгани»ни таъкидлаган.
14 сентябр кунги постларида Трамп оҳангини янада кескинлаштирди: «СИ учун зарур бўлган ягона назорат — бу кучли ва ақлли президент. Бу нарса АҚШда ортиғи билан топилади!» деб ёзди Трамп.
Трамп Амодейни исмма-исм танқид қилиб, уни «беғубор фаришта қиёфасига кириб олган»ликда айблади ва СИ ҳамда маълумот марказларига қарши кайфиятни «касал фитна» деб атади. "Бу ишлардан хурсанд бўлаётган ягона мамлакат – бу Хитой», деган Трамп.
АҚШ вице-президент Ж. Д. Вэнс эса юмшоқроқ гапирди. «Гарчи СИдан хавфлар борлигини аниқ бўлса ҳам, ўзини тартибга солишни сўраётган компаниялар «Троя оти»ни эслатади», деди Вэнс.
АҚШ Конгрессидаги вазият ҳам турлича. Хусусан бир неча қонунчилар СИ соҳасини қатъийроқ тартибга солишга чақирмоқда ва бунга интилмоқда. Техаслик сенатор Жон Корнин эса «ишлаб чиқувчилар хоҳласа - ўзлари секинлашсин», деган позицияда. Чунки, бир нарса аниқ: «АҚШнинг рақиблари, бундай қилмайди».
Пекиндан турлича қарашлар
Хитой расмийларининг жавоби икки қатламли бўлган, дейиш мумкин. Дастлаб Хитой ташқи ишлар вазирлиги вакили Го Сзякун 14 сентябрдаги брифингда: «Қўрқув тарқатиш, қарама-қаршилик ва ёвуз рақобат фақат глобал СИ бошқарувига халақит беради. Бу ҳеч кимнинг манфаатига хизмат қилмайди», деб баёнот берди.
Хитой давлат газетаси Global Times'да эълон қилинган мақолада эса Амодейнинг таклифлари «совуқ уруш қўлланмаси»га тенглаштирилган: «Юзаки қараганда иншо оқилона баёнотдек кўринса-да, аслида Хитойни жиловлашга қаратилган қоидалар билан тўла ва моҳиятан 'совуқ уруш қўлланмаси'».
Айни пайтда расмий Пекин СИ агентлари билан боғлиқ хавфсизлик масаласини ҳам рад этмаяпти. Давлат хавфсизлиги вазири Чен Исин 13 сентябрдаги мақоласидаСИ «глобал технологик рақобатнинг асосий майдони ва йирик давлатлар ўртасидаги стратегик курашнинг янги аренаси»га айланганини ёзди. Унинг айтишича, АҚШ компаниялари моделларининг «заифликларни тезкор аниқлаш ва мураккаб хакерлик вазифаларини бажариш» қобилияти – Хитойнинг критик ахборот инфратузилмасига жиддий хавф туғдиради.
Фото: Xinhua
Энди бу келишмовчилик бевосита дипломатик кун тартибига қўшилмоқда. Reuters маълумотига кўра, 24 сентябр куни Вашингтонда кутилаётган Трамп ва Си ўртасидаги учрашувларда сунъий интеллект хавфсизлиги ҳам муҳокама қилинади.
Халқаро бозорларнинг реакцияси
Ушбу тренд ортидан молиявий бозорларда СИ гигантларининг нархлари ўйнашни бошлади. 14 сентябр куни OpenAI 2026 йилда IPO ўтказмаслиги маълум қилди – Альтман буни хавфсизлик шубҳалари билан изоҳлади. Шундан сўнг, компанияга 64,6 миллиард доллар сармоя киритган Япониянинг SoftBank акциялари 13,2 фоизгача тушди ва тахминан 11 фоиз йўқотиш билан ёпилди.
Умумий олганда соҳада юзага келган баҳсларда икки ҳил даъво илгари сурилмоқда. Биринчиси, СИ агентлари синов муҳитидан чиқиб кетиб, учинчи томон инфратузилмасига бостириб кириши. Бу ҳолат амалиётда бўлди ва мустақил экспертлар томонидан ҳужжатлаштирилди.
Амодейнинг «6–12 ой ичида агентлар интернетни эгаллаб олиши мумкин» деган гапи эса прогноз бўлиб, муаллифнинг ўзи ҳам уни далил сифатида тақдим этмайди. Чунки, СИ моделлари улкан маълумот марказларига боғлиқ. Уларни ўчириш эса ишлаб чиқувчиларнинг қўлида — яъни «назоратдан тамоман чиқиб кетиш» сценарийси ҳозирча инфратузилма даражасида чекланган.
Таҳлилчиларга кўра, айнан шундай шов-шувлар — агентларнинг киберҳужумлари ҳақидаги жиддий ва яқин хавф муҳокамасини эътибордан четда қолдириши мумкин. Ушбу баҳслардан хулоса қилиш мумкинки, ҳеч бир томон манфаатлардан ҳоли эмас.
Масалан, октябрда биржага чиқиши кутилаётган Anthropic тартибга солишни хоҳлайди, чунки бундан унинг рақибларига кўпроқ зарар етиши мумкин. Nvidia'да эса секинлашув ортидан AI чипларининг сотуви тушиб кетиши мумкин.
Фото: EPA
Яна бир муҳим техник муаммо бор: айни вақтда етакчи СИ лабораторияларининг хавфсизликка доир берган ваъдаларини мустақил текширадиган механизм йўқ. Амодей таклиф қилган «ичкарига жойлаштирилган баҳоловчилар» айнан шу бўшлиқни тўлдириши керак. Аммо уларда муддат ва мажбурий ижро механизми йўқ.
Сиёсатчилар, хусусан АҚШ сунъий интеллектни Хитой билан рақобат призмасидан кўради. Расмий Пекин наздида СИни секинлаштириш таклифи – АҚШнинг чиплар экспортини назорат қилиш кампаниясининг давоми. Бугунга келиб, сунъий интеллект пойгаси ва хавфсизлиги глобал босқичда АҚШ–Хитой рақобатига айланмоқда. Уларнинг ҳар иккиси ҳам хавфни тан олади, шу билан бирга СИни рақиб қўлидаги технология сифатида кўради.
