Sunʼiy intellektni sekinlashtirishga chaqiriqlar: xavotirlar, tijoriy manfaat va geosiyosat

Sekinlashtirish taklifi va qoʻllovlar

Oxirgi voqealar esa 12-sentabr kuni Anthropic bosh direktori Dario Amodey oʻz blogida eʼlon qilgan inshodan keyin kulminatsiya nuqtasiga chiqdi. Amodeyning aytishicha, ikki omil: SI modellari oʻz vorislarini loyihalash, oʻqitishda qatnasha boshlagani va bu jarayon tezlashgani, shuningdek «OpenAi–Hugging Face hodisasi» uning fikrini oʻzgartirgan.

Agentlar oʻzini takomillashtirishi haqida u shunday yozdi: «Agar himoya toʻsiqlarisiz davom etsa, u - bizning tushunish yoki boshqarish qobiliyatimizdan oʻzib ketishi mumkin». Mutaxassisga koʻra, 6–12 oy ichida SI agentlari «butun internetni egallab olish qobiliyatiga ega boʻlishi va yuz milliardlab dollarlik zarar yetkazishi» mumkin.

Amodeyning taʼrifiga koʻra, meyorlash - «modelni oʻqitish yoki texnik taraqqiyotni toʻxtatish emas, balki kompaniyalar modellarini moslashtirish, himoyalash uchun yetarli vaqt ajratishini taʼminlashdir». U 2023-yildagi pauza chaqiriqlari «oʻsha paytda unchalik mantiqli boʻlmagani»ni ham tan oldi. Chunki oʻsha davr modellari agent sifatida harakat qilolmasdi.

Amodey sekinlashtirish uchun oʻzining uch bosqichli rejasini ham taqdim qilgan. Unga koʻra: dastlab kompaniyalar "oʻz ichkarisiga mustaqil baholovchilarni joylashtirishga" ruxsat beradi. Uchinchi tomon jamoalari doimiy, xodim darajasidagi kirish huquqiga ega boʻladi. Ular oʻz xulosalarini kompaniya tahriridan oʻtkazmasdan chop eta oladi.

Ikkinchi bosqichda demokratik davlatlardagi SI laboratoriyalari oʻrtasida umumiy xavfsizlik standartlari ishlab chiqiladi. Va-nihoyat sohada global muvofiqlashuv, jumladan Xitoy bilan ham umumiy «oʻyin qoidalari» boʻladi.

Shu bilan birga Amodey Xitoyga qarshi eksport nazoratini kuchaytirishga chaqirdi. U Xitoyning SI sohasidagi yetakchiligi «AQSH va dunyo uchun jiddiy xavf» boʻlishini yozib, Pekinning keskin javobiga sabab boʻldi.

Amodeyni qoʻllovchilar ham tezda topildi. OpenAI asoschisi Sem Altman: «Dario bilan roziman – biz chegarani meyorlashimiz kerak», dedi. Altman, shuningdek oʻz kompaniyasiga tashqi baholovchilarni kiritishga vaʼda berdi.

SpaceX va xAI rahbari Ilon Mask qisqa qilib «Dario haq» ekanini yozdi. Google DeepMind rahbari Demis Xassabis ham bu fikrlarga ham qoʻshildi. Microsoft rahbari Satya Nadella mustaqil auditni maʼqulladi. Ammo u «bu tekshiruvlar bir hovuch tashkilot nazoratida boʻlmasligi, balki keng vakillikka ega boʻlishi kerakligi»ni qoʻshimcha qildi.

«Kartel tuzishga urinish»

New York Times’ga koʻra, sunʼiy intellekt sohasidagi gigant korporatsiyalar rahbarlarining bu tashabbusi ayrim kompaniyalar va siyosatchilar tomonidan tanqidiy qabul qilindi.

AQSH prezidenti huzuridagi Fan va texnologiyalar boʻyicha maslahatchilar kengashi hamraisi Devid Saks Amodeyga eng keskin javob berdi: «Super-intellektni yaratmaslikning eng oson yoʻli - uni yaratmaslikka rozi boʻlish». Uning fikricha, kompaniyalar davlat ruxsatisiz ham surʼatini pasaytira oladi. Shu bois «ular oʻzi istagan tartibga solish tizimini hammadan talab qilishi – jamoatchilikni shantaj qilishdek» koʻrinmoqda.

Shuningdek, Saks antimonopol qonunchilikni toʻxtatib turish talabini ochiqchasiga "kartel tuzishga urinish", deb atadi. Saks Tramp lavozimga kelgach bir necha oy davomida Oq uyning Sunʼiy intellekt va kriptovalyuta boʻyicha maxsus maslahatchisi lavozimida ham ishlagan.

Kanadaning Cohere startapi rahbari Aydan Gomes ham buni kartelga qiyosladi. «Silikon vodiysidagi bir hovuch, bozorda hukmron SI kompaniyasi butun dunyo uchun texnologiyalar qoidalarini belgilashi kerakmi?» U «qoʻy terisini kiygan boʻri – nomini qanday atamang, bu kartel hisoblanadi», deya xulosa qilgan.

Yana bir mutaxassis, venchur investori Bill Gurli esa Amodeyning taklifidagi manfaatlar toʻqnashuviga urgʻu bergan: «Agar tartibga solinadigan boʻlsa, nazoratchilar kompaniyalarga tanish tashkilotlar boʻlmasligi va qoidalarni kompaniyalarning oʻzi yozmasligi kerak», deydi u. Uning tanqidi asossiz emas. Chunki, Amodey tilga olgan baholovchi kompaniyalar uning oʻz laboratoriyalari bilan uzoq yillik ishchi aloqalarga ega.

Nvidia bosh direktori Jensen Xuang SI agentlar rivojlanishini sekinlashtirish taklifini tanqid qilib, buning tijorat motivini koʻrsatdi. Laboratoriyalar kiberxavfsizlik mahsulotlarini bozorga chiqarmoqchi: «talab yaratishning muammo yaratishdan yaxshiroq usuli bormi?», degan u.

AQSH rasmiylari Amodeyni qoʻllamadi

Prezident Donald Tramp 13-sentabr kuni – Irlandiyada jurnalistlarga: «Biz SI boʻyicha Xitoydan oldindamiz... va ochigʻi, shundayligicha qolishini istayman. Chunki SIda kim yutsa, oʻsha yutadi», degandi. U himoya toʻsiqlari mumkinligini aytgan holda, tanqidchilar«roʻy bermaydigan narsalarni koʻtarib chiqayotgani»ni taʼkidlagan.

14-sentabr kungi postlarida Tramp ohangini yanada keskinlashtirdi: «SI uchun zarur boʻlgan yagona nazorat - bu kuchli va aqlli prezident. Bu narsa AQShda ortigʻi bilan topiladi!» deb yozdi Tramp.

Tramp Amodeyni ismma-ism tanqid qilib, uni «begʻubor farishta qiyofasiga kirib olgan»likda aybladi va SI hamda maʼlumot markazlariga qarshi kayfiyatni «kasal fitna» deb atadi. "Bu ishlardan xursand boʻlayotgan yagona mamlakat – bu Xitoy», degan Tramp.

AQSH vitse-prezident J. D. Vens esa yumshoqroq gapirdi. «Garchi SIdan xavflar borligini aniq boʻlsa ham, oʻzini tartibga solishni soʻrayotgan kompaniyalar «Troya oti»ni eslatadi», dedi Vens.

AQSH Kongressidagi vaziyat ham turlicha. Xususan bir necha qonunchilar SI sohasini qatʼiyroq tartibga solishga chaqirmoqda va bunga intilmoqda. Texaslik senator Jon Kornin esa «ishlab chiquvchilar xohlasa - oʻzlari sekinlashsin», degan pozitsiyada. Chunki, bir narsa aniq: «AQShning raqiblari, bunday qilmaydi».

Pekindan turlicha qarashlar

Xitoy rasmiylarining javobi ikki qatlamli boʻlgan, deyish mumkin. Dastlab Xitoy tashqi ishlar vazirligi vakili Go Szyakun 14-sentabrdagi brifingda: «Qoʻrquv tarqatish, qarama-qarshilik va yovuz raqobat faqat global SI boshqaruviga xalaqit beradi. Bu hech kimning manfaatiga xizmat qilmaydi», deb bayonot berdi.

Xitoy davlat gazetasi Global Times'da eʼlon qilingan maqolada esa Amodeyning takliflari «sovuq urush qoʻllanmasi»ga tenglashtirilgan: «Yuzaki qaraganda insho oqilona bayonotdek koʻrinsa-da, aslida Xitoyni jilovlashga qaratilgan qoidalar bilan toʻla va mohiyatan 'sovuq urush qoʻllanmasi'».

Ayni paytda rasmiy Pekin SI agentlari bilan bogʻliq xavfsizlik masalasini ham rad etmayapti. Davlat xavfsizligi vaziri Chen Isin 13-sentabrdagi maqolasida SI «global texnologik raqobatning asosiy maydoni va yirik davlatlar oʻrtasidagi strategik kurashning yangi arenasi»ga aylanganini yozdi. Uning aytishicha, AQSH kompaniyalari modellarining «zaifliklarni tezkor aniqlash va murakkab xakerlik vazifalarini bajarish» qobiliyati – Xitoyning kritik axborot infratuzilmasiga jiddiy xavf tugʻdiradi.

Endi bu kelishmovchilik bevosita diplomatik kun tartibiga qoʻshilmoqda. Reuters maʼlumotiga koʻra, 24-sentabr kuni Vashingtonda kutilayotgan Tramp va Si oʻrtasidagi uchrashuvlarda sunʼiy intellekt xavfsizligi ham muhokama qilinadi.

Xalqaro bozorlarning reaksiyasi

Ushbu trend ortidan moliyaviy bozorlarda SI gigantlarining narxlari oʻynashni boshladi. 14-sentabr kuni OpenAI 2026-yilda IPO oʻtkazmasligi maʼlum qildi – Altman buni xavfsizlik shubhalari bilan izohladi. Shundan soʻng, kompaniyaga 64,6 milliard dollar sarmoya kiritgan Yaponiyaning SoftBank aksiyalari 13,2 foizgacha tushdi va taxminan 11 foiz yoʻqotish bilan yopildi.

Nvidia 3,4 foizga, PHlX yarimoʻtkazgichlar indeksi qariyb 6 foizga arzonlashdi. Anthropic esa, aksincha, oktabr oʻrtalarida birjaga chiqishga tayyorlanmoqda.

Manfaatlar

Umumiy olganda sohada yuzaga kelgan bahslarda ikki hil daʼvo ilgari surilmoqda. Birinchisi, SI agentlari sinov muhitidan chiqib ketib, uchinchi tomon infratuzilmasiga bostirib kirishi. Bu holat amaliyotda boʻldi va mustaqil ekspertlar tomonidan hujjatlashtirildi.

Amodeyning «6–12 oy ichida agentlar internetni egallab olishi mumkin» degan gapi esa prognoz boʻlib, muallifning oʻzi ham uni dalil sifatida taqdim etmaydi. Chunki, SI modellari ulkan maʼlumot markazlariga bogʻliq. Ularni oʻchirish esa ishlab chiquvchilarning qoʻlida - yaʼni «nazoratdan tamoman chiqib ketish» ssenariysi hozircha infratuzilma darajasida cheklangan.

Tahlilchilarga koʻra, aynan shunday shov-shuvlar - agentlarning kiberhujumlari haqidagi jiddiy va yaqin xavf muhokamasini eʼtibordan chetda qoldirishi mumkin. Ushbu bahslardan xulosa qilish mumkinki, hech bir tomon manfaatlardan holi emas.

Masalan, oktabrda birjaga chiqishi kutilayotgan Anthropic tartibga solishni xohlaydi, chunki bundan uning raqiblariga koʻproq zarar yetishi mumkin. Nvidia'da esa sekinlashuv ortidan AI chiplarining sotuvi tushib ketishi mumkin.

Yana bir muhim texnik muammo bor: ayni vaqtda yetakchi SI laboratoriyalarining xavfsizlikka doir bergan vaʼdalarini mustaqil tekshiradigan mexanizm yoʻq. Amodey taklif qilgan «ichkariga joylashtirilgan baholovchilar» aynan shu boʻshliqni toʻldirishi kerak. Ammo ularda muddat va majburiy ijro mexanizmi yoʻq.

Siyosatchilar, xususan AQSH sunʼiy intellektni Xitoy bilan raqobat prizmasidan koʻradi. Rasmiy Pekin nazdida SIni sekinlashtirish taklifi – AQShning chiplar eksportini nazorat qilish kampaniyasining davomi. Bugunga kelib, sunʼiy intellekt poygasi va xavfsizligi global bosqichda AQSH–Xitoy raqobatiga aylanmoqda. Ularning har ikkisi ham xavfni tan oladi, shu bilan birga SIni raqib qoʻlidagi texnologiya sifatida koʻradi.