Mashinalar isyoni yaqinmi? - Anthropic kompaniyasi sun’iy intellekt tizimlarini sekinlashtirishga chaqirdi

«Oyoqni gaz pedalidan olib, tormozni bosish imkoniyati bo‘lishi kerak», dedi Klark BBC Newsnight dasturiga bergan intervyusida.

«Hozir vaziyat sun’iy intellekt sanoatida gaz pedali bor, lekin tormoz pedali yo‘qdek ko‘rinadi», deb hisoblamoqda u.

Uning so‘zlariga ko‘ra, odamlar davlat tomonidan tartibga solish va siyosiy mexanizmlar orqali sun’iy intellekt tizimlari ustidan nazoratni saqlab qolishi kerak, chunki bu texnologiyalar tobora kuchliroq bo‘lib, jamiyatga yanada kuchliroq ta’sir ko‘rsatyapti.

«Dunyo bu haqda jiddiy o‘ylab ko‘rishi kerak. Oxir-oqibat, biz ushbu tizimlarning xavfsizligi va ishonchliligiga ishonch hosil qilish uchun yangi tartibga solish qoidalarini ishlab chiqishimiz kerak bo‘ladi», dedi Klark.

Yaqinda Claude modellar oilasini ishlab chiquvchi Anthropic butun dunyo bo‘ylab ilg‘or sun’iy intellekt tizimlarini ishlab chiqishning sekinlashishini «foydali qadam» deb atagan hisobotini e’lon qildi.

Biroq, hisobotda ta’kidlanishicha, agar faqat bitta kompaniya tadqiqotlarni to‘xtatsa, uning raqobatchilari shunchaki oldinga o‘tib ketishi mumkin.

Anthropic rahbariyatining so‘zlariga ko‘ra, haqiqiy tanaffus faqat turli mamlakatlardagi bir nechta yetakchi sun’iy intellekt ishlab chiquvchilari - birinchi navbatda AQSh va Xitoyda - bir vaqtning o‘zida mustaqil ravishda tekshirilishi mumkin bo‘lgan tizim doirasida o‘z modellarining imkoniyatlarini yanada oshirishni to‘xtatishga rozi bo‘lsagina mumkin bo‘ladi. Biroq, sohaning eng yirik o‘yinchilari, jumladan Anthropic, OpenAI va Google o‘z tadqiqotlarini to‘xtatishga tayyor ekanligini hali bildirmagan.

«Tormoz pedali» qanday bo‘lishi kerak?

Jyek Klarkning so‘zlariga ko‘ra, Anthropic tomonidan ishlab chiqilgan mashhur Claude chat-boti allaqachon tizimning taxminan 80 foizini o‘zi yozgan dasturiy kodda ishlaydi. Uning so‘zlariga ko‘ra, yaqin ikki yil ichida bu ko‘rsatkich 100 foizga yetishi, boshqacha aytganda «o‘zining yangi versiyasini o‘zi yaratishi» mumkin, bu esa «katta oqibatlarga» olib keladi.

Klark sun’iy intellekt sohasidagi tadqiqotlar va ishlanmalar uchun «tormoz pedali»ni qanday yaratish mumkinligini aniqlashtirmadi.

Shu bilan birga, shu hafta Anthropic AQSh prezidenti Donald Trampning sohani tartibga solishda nisbatan yumshoq yondashuvni nazarda tutuvchi SI to‘g‘risidagi farmonini olqishladi. Ushbu farmon sun’iy intellektni ishlab chiqish bilan shug‘ullanuvchi kompaniyalarni davlat xavfsizlik tekshiruvlaridan o‘tishga majbur qilmaydi. Bunday testlar hamon ixtiyoriy bo‘lib qolmoqda.

Hujjatning bandlaridan biri, shuningdek, AQSh hukumatiga Amerikada ishlab chiqilgan eng kuchli sun’iy intellekt modellarini bozorga chiqarishdan oldin dastlabki baholashni o‘tkazish uchun 30 kun vaqt beradi.