Хубингернинг баҳосига кўра, сунъий интеллект ривожланиши оқибатида инсоният ҳалокатга учраши эҳтимоли 10 фоиздан юқори.
У бу фикрни Anthropicʼдан тадқиқотчи Жейкоб Коксоннинг шов-шувли кетишидан кўп ўтмай билдирган. Коксон аввал OpenAIʼда ҳам ишлаган.
Коксон Anthropic ва OpenAIʼни ўта кучли, ўзини ўзи такомиллаштира оладиган сунъий интеллект яратишга тўхтовсиз интилаётганликда танқид қилган. Унинг фикрича, компаниялар бу технологик пойгада инсоният келажагини жуда катта хавф остига қўймоқда.
Тадқиқотчи компания раҳбарлари оммавий ахборот воситаларида сунъий интеллектнинг келажаги ҳақида ижобий ва эҳтиёткор баёнотлар берса-да, ички муҳитда технология ўн йиллик охирига қадар инсоният учун ҳалокатли оқибатларга олиб келиши мумкинлигидан жиддий хавотир мавжудлигини таъкидлаган.
Коксоннинг фикрича, келажакда анча кучли сунъий интеллект моделлари фақат матн ёки тасвир яратиш билан чекланиб қолмайди. Улар компьютер тизимларини бузиш, ҳимоя механизмларини четлаб ўтиш ҳамда турли ресурсларга мустақил равишда кириш имконига эга бўлиши мумкин.
Эван Хубингер ҳам бу хавотирларнинг асоси борлигини тан олган.
Унинг сўзларига кўра, назарий жиҳатдан сунъий интеллектнинг ривожланиши барча одамларнинг ҳалок бўлишига олиб келадиган сценарийни ҳам истисно қилиб бўлмайди. Хубингер бундай натижа эҳтимолини шахсан 10 фоиздан юқори деб баҳолаган.
Шу билан бирга, у Anthropic мазкур хавфларни камайтириш ва сунъий интеллектни инсон мақсадлари ҳамда қадриятларига мослаштириш учун имкони борича иш олиб бораётганини айтган.
Бироқ асосий муаммо шундаки, тадқиқотчилар ҳозирча суперинтеллект даражасига етган сунъий интеллектни ишончли тарзда назорат қилиш ва унинг мақсадларини инсон манфаатлари билан мувофиқлаштиришнинг кафолатланган усулини билмайди.
Бу масала сунъий интеллект соҳасида “alignment problem” — СИни инсон мақсадларига мослаштириш муаммоси сифатида танилган.
Муаммонинг моҳияти шундаки, келажакдаги жуда кучли моделга берилган мақсад нотўғри ифодаланса ёки тизим уни инсон кутганидан бошқача талқин қилса, у ўз вазифасини бажариш жараёнида одамлар манфаатларига зид ҳаракат қилиши мумкин.
Айниқса, сунъий интеллект мустақил қарор қабул қилиш, узоқ муддатли режалар тузиш, ташқи компьютер тизимлари билан ишлаш ва ўз имкониятларини кенгайтириш даражасига етса, унинг ҳаракатларини назорат қилиш анча мураккаблашиши мумкин.
