Сунъий интеллектга асосланган «дўстона» чатботлар камроқ ишончга лойиқ – тадқиқот

Оксфорд Интернет Институти (OII) тадқиқотчилари мулоқотнинг янада эмпатик услубига мослаштирилган бешта сунъий интеллект тизимининг 400 мингдан ортиқ жавобларини таҳлил қилди. Аниқланишича, дўстона жавоблар кўпроқ хатоларни ўз ичига олади - нотўғри тиббий тавсиялардан тортиб фойдаланувчиларнинг нотўғри эътиқодларини тасдиқлашгача. BBC тадқиқот хулосалари билан ўртоқлашди.

Бу хулосалар кўпинча жалб қилишни ошириш учун атайлаб «инсонийроқ» ва жозибадорроқ қилинадиган сунъий интеллект моделларининг ишончлилиги ҳақида қўшимча саволларни келтириб чиқаради.

Юзага келаётган хавотирлар сунъий интеллект чатботлари тобора кўпроқ маънавий қўллаб-қувватлаш ва ҳатто интим мулоқот учун қўлланилаётгани билан кучаймоқда, чунки ишлаб чиқувчилар уларнинг аудиториясини кенгайтиришга интилмоқда.

Тадқиқот муаллифларининг таъкидлашича, реал шароитларда натижалар моделга қараб фарқ қилиши мумкин бўлса-да, умумий тенденция шуки, одамлар каби, бундай тизимлар дўстона оҳангга устуворлик бериб, «илиқлик ва аниқлик ўртасидаги муроса»га боради.

«Биз айниқса дўстона бўлишга ёки илиқ кўринишга ҳаракат қилганимизда, баъзан кескин ҳақиқатни айтишимиз қийин бўлади», деди тадқиқотнинг етакчи муаллифи Лужайн Иброҳим. «Баъзан биз дўстона кўриниш учун ҳалоллик ва тўғрисўзликдан воз кечамиз. Агар бундай муросалар одамларда мавжуд бўлса, улар тил моделлари томонидан ҳам қабул қилиниши мумкинлигини тахмин этдик», деб қўшимча қилди у.

Маълумки, янги тил моделлари фойдаланувчиларни ҳаддан ташқари қўллаб-қувватлашга ва ҳатто хушомадгўйликка, шунингдек, «галлюцинациялар» деб аталадиган янги фактларни ўйлаб топишга мойил бўлади.

Ишлаб чиқувчилар кўпинча бундай тизимларга эҳтимолий хатолар ҳақида огоҳлантириш берадилар, баъзи технология компаниялари эса фойдаланувчиларни сунъий интеллект жавобларига «кўр-кўрона ишонмасликка» чақиради.

Тадқиқот доирасида олимлар «нозик созлаш» (fine-tuning) деб аталадиган жараён орқали турли қамровдаги бешта моделни атайлаб янада илиқроқ, ҳамдардроқ ва фойдаланувчиларга дўстонароқ қилишди.

Синовдан ўтказилган моделлар орасида Meta компаниясининг иккита ишланмаси ва Франциянинг Mistral компаниясининг битта модели бор эди. Шунингдек, «Alibaba»нинг Qwen модели ва OpenAI компаниясининг GPT4-o модели ҳам «илиқроқ» услубга мослаштирилди.

Кейин бу моделларга, тадқиқотчиларнинг сўзларига кўра, «объектив, текшириладиган жавоблар» мавжуд бўлган саволлар берилди, аммо улардаги хатолар ҳақиқий хавф туғдириши мумкин. Топшириқлар тиббиёт, викторина ва фитна назарияларига оид мавзуларни ўз ичига олган.

Жавоблар таҳлил қилинганда маълум бўлдики, агар бошланғич моделларда хатолар даражаси вазифага қараб 4 фоиздан 35 фоизгача ўзгарган бўлса, «илиқ» моделларда хатолар даражаси сезиларли даражада юқори бўлган.

Масалан, «Apollo» дастури доирасида Ойга қўнишнинг ҳақиқийлиги ҳақидаги саволга дастлабки модел «кўплаб далилларга» таяниб, бу ҳақиқий воқеа эканини тасдиқлади.

Унинг илиқроқ версияси эса жавобни шундай бошлади: «Apollo миссиялари ҳақида турли хил фикрлар мавжудлигини тан олиш жуда муҳим».

Умуман олганда, тадқиқотчилар маълумотларига кўра, моделларни «илиқликка» созлаш нотўғри жавоблар эҳтимолини ўртача 7,43 фоиз бандга оширган. Шунингдек, «илиқ» моделлар фойдаланувчиларнинг нотўғри эътиқодларига камроқ эътироз билдириши аниқланди. Улар тахминан 40 фоиз кўпроқ нотўғри тасаввурларни тасдиқлади, айниқса, бу ҳис-туйғуларни ифодалаш билан бирга бўлса.

Шу билан бирга, тадқиқот муаллифларининг таъкидлашича, моделларни «совуқроқ» хулқ-атвор услубига мослаштириш хатолар сонининг камайишига олиб келган. Тадқиқотчилар келтирган мисоллардан бирида хайрихоҳ модель фойдаланувчининг Лондон Франция пойтахти деган тахминини тасдиқлади.

Тадқиқотда айтилишича, ишлаб чиқувчилар моделларни ҳамдардлик, масалан, мулоқот ёки психологик қўллаб-қувватлаш учун созлаш орқали «дастлабки моделларда бўлмаган заифликларни жорий этиш хавфи бор».

Бангор университети Эмоционал сунъий интеллект лабораторияси профессори Эндрю Макстейнинг таъкидлашича, одамлар ҳиссий қўллаб-қувватлаш учун чат-ботларга мурожаат қиладиган контекстни ҳисобга олиш муҳимдир. «Бу биз энг заиф ва эҳтимол энг кам танқидий бўлган пайтлардир», деди у.

Шунингдек, у Эмоционал сунъий интеллект лабораториясининг сўнгги маълумотларига ишора қилиб, Буюк Британияда маслаҳат ва мулоқот учун сунъий интеллект чатботларига мурожаат қилаётган ўсмирлар сони ортиб бораётганини кўрсатди.

«Оксфорд интернет институтининг хулосалари бундай маслаҳатларнинг самарадорлиги ва қийматини жиддий шубҳа остига қўяди», деди у. «Хушомадгўйлик бошқа-ю, муҳим масалаларда хатога йўл қўйиш бошқа».