Машиналар исёни яқинми? — Anthropic компанияси сунъий интеллект тизимларини секинлаштиришга чақирди

Сунъий интеллект (СИ) технологиясини ишлаб чиқувчи Anthropic компанияси раҳбарияти энг янги СИ моделлари инсон назоратидан чиқиб кетиш белгиларини кўрсата бошлагани ҳақида огоҳлантирди. Anthropic асосчиларидан бири Жек Кларк технология инсон иштирокисиз ривожланиши мумкин бўлган босқичга яқинлашаётганини таъкидлади ва зарурат туғилганда СИ ривожланишини секинлаштирадиган механизмларни яратишга чақирди.

Жек Кларк Фото: Bloomberg via Getty Images

«Оёқни газ педалидан олиб, тормозни босиш имконияти бўлиши керак», деди Кларк BBC Newsnight дастурига берган интервьюсида.

«Ҳозир вазият сунъий интеллект саноатида газ педали бор, лекин тормоз педали йўқдек кўринади», деб ҳисобламоқда у.

Унинг сўзларига кўра, одамлар давлат томонидан тартибга солиш ва сиёсий механизмлар орқали сунъий интеллект тизимлари устидан назоратни сақлаб қолиши керак, чунки бу технологиялар тобора кучлироқ бўлиб, жамиятга янада кучлироқ таъсир кўрсатяпти.

«Дунё бу ҳақда жиддий ўйлаб кўриши керак. Охир-оқибат, биз ушбу тизимларнинг хавфсизлиги ва ишончлилигига ишонч ҳосил қилиш учун янги тартибга солиш қоидаларини ишлаб чиқишимиз керак бўлади», деди Кларк.

Яқинда Claude моделлар оиласини ишлаб чиқувчи Anthropic бутун дунё бўйлаб илғор сунъий интеллект тизимларини ишлаб чиқишнинг секинлашишини «фойдали қадам» деб атаган ҳисоботини эълон қилди.

Бироқ, ҳисоботда таъкидланишича, агар фақат битта компания тадқиқотларни тўхтатса, унинг рақобатчилари шунчаки олдинга ўтиб кетиши мумкин.

Anthropic раҳбариятининг сўзларига кўра, ҳақиқий танаффус фақат турли мамлакатлардаги бир нечта етакчи сунъий интеллект ишлаб чиқувчилари - биринчи навбатда АҚШ ва Хитойда - бир вақтнинг ўзида мустақил равишда текширилиши мумкин бўлган тизим доирасида ўз моделларининг имкониятларини янада оширишни тўхтатишга рози бўлсагина мумкин бўлади. Бироқ, соҳанинг энг йирик ўйинчилари, жумладан Anthropic, OpenAI ва Google ўз тадқиқотларини тўхтатишга тайёр эканлигини ҳали билдирмаган.

«Тормоз педали» қандай бўлиши керак?

Жек Кларкнинг сўзларига кўра, Anthropic томонидан ишлаб чиқилган машҳур Claude чат-боти аллақачон тизимнинг тахминан 80 фоизини ўзи ёзган дастурий кодда ишлайди. Унинг сўзларига кўра, яқин икки йил ичида бу кўрсаткич 100 фоизга етиши, бошқача айтганда «ўзининг янги версиясини ўзи яратиши» мумкин, бу эса «катта оқибатларга» олиб келади.

Кларк сунъий интеллект соҳасидаги тадқиқотлар ва ишланмалар учун «тормоз педали»ни қандай яратиш мумкинлигини аниқлаштирмади.

Шу билан бирга, шу ҳафта Anthropic АҚШ президенти Доналд Трампнинг соҳани тартибга солишда нисбатан юмшоқ ёндашувни назарда тутувчи СИ тўғрисидаги фармонини олқишлади. Ушбу фармон сунъий интеллектни ишлаб чиқиш билан шуғулланувчи компанияларни давлат хавфсизлик текширувларидан ўтишга мажбур қилмайди. Бундай тестлар ҳамон ихтиёрий бўлиб қолмоқда.

Ҳужжатнинг бандларидан бири, шунингдек, АҚШ ҳукуматига Америкада ишлаб чиқилган энг кучли сунъий интеллект моделларини бозорга чиқаришдан олдин дастлабки баҳолашни ўтказиш учун 30 кун вақт беради.