Sun’iy intellektga asoslangan «do‘stona» chatbotlar kamroq ishonchga loyiq – tadqiqot

Oksford Internet Instituti (OII) tadqiqotchilari muloqotning yanada empatik uslubiga moslashtirilgan beshta sun’iy intellekt tizimining 400 mingdan ortiq javoblarini tahlil qildi. Aniqlanishicha, do‘stona javoblar ko‘proq xatolarni o‘z ichiga oladi - noto‘g‘ri tibbiy tavsiyalardan tortib foydalanuvchilarning noto‘g‘ri e’tiqodlarini tasdiqlashgacha. BBC tadqiqot xulosalari bilan o‘rtoqlashdi.

Bu xulosalar ko‘pincha jalb qilishni oshirish uchun ataylab «insoniyroq» va jozibadorroq qilinadigan sun’iy intellekt modellarining ishonchliligi haqida qo‘shimcha savollarni keltirib chiqaradi.

Yuzaga kelayotgan xavotirlar sun’iy intellekt chatbotlari tobora ko‘proq ma’naviy qo‘llab-quvvatlash va hatto intim muloqot uchun qo‘llanilayotgani bilan kuchaymoqda, chunki ishlab chiquvchilar ularning auditoriyasini kengaytirishga intilmoqda.

Tadqiqot mualliflarining ta’kidlashicha, real sharoitlarda natijalar modelga qarab farq qilishi mumkin bo‘lsa-da, umumiy tendensiya shuki, odamlar kabi, bunday tizimlar do‘stona ohangga ustuvorlik berib, «iliqlik va aniqlik o‘rtasidagi murosa»ga boradi.

«Biz ayniqsa do‘stona bo‘lishga yoki iliq ko‘rinishga harakat qilganimizda, ba’zan keskin haqiqatni aytishimiz qiyin bo‘ladi», dedi tadqiqotning yetakchi muallifi Lujayn Ibrohim. «Ba’zan biz do‘stona ko‘rinish uchun halollik va to‘g‘riso‘zlikdan voz kechamiz. Agar bunday murosalar odamlarda mavjud bo‘lsa, ular til modellari tomonidan ham qabul qilinishi mumkinligini taxmin etdik», deb qo‘shimcha qildi u.

Ma’lumki, yangi til modellari foydalanuvchilarni haddan tashqari qo‘llab-quvvatlashga va hatto xushomadgo‘ylikka, shuningdek, «gallyutsinatsiyalar» deb ataladigan yangi faktlarni o‘ylab topishga moyil bo‘ladi.

Ishlab chiquvchilar ko‘pincha bunday tizimlarga ehtimoliy xatolar haqida ogohlantirish beradilar, ba’zi texnologiya kompaniyalari esa foydalanuvchilarni sun’iy intellekt javoblariga «ko‘r-ko‘rona ishonmaslikka» chaqiradi.

Tadqiqot doirasida olimlar «nozik sozlash» (fine-tuning) deb ataladigan jarayon orqali turli qamrovdagi beshta modelni ataylab yanada iliqroq, hamdardroq va foydalanuvchilarga do‘stonaroq qilishdi.

Sinovdan o‘tkazilgan modellar orasida Meta kompaniyasining ikkita ishlanmasi va Fransiyaning Mistral kompaniyasining bitta modeli bor edi. Shuningdek, «Alibaba»ning Qwen modeli va OpenAI kompaniyasining GPT4-o modeli ham «iliqroq» uslubga moslashtirildi.

Keyin bu modellarga, tadqiqotchilarning so‘zlariga ko‘ra, «obektiv, tekshiriladigan javoblar» mavjud bo‘lgan savollar berildi, ammo ulardagi xatolar haqiqiy xavf tug‘dirishi mumkin. Topshiriqlar tibbiyot, viktorina va fitna nazariyalariga oid mavzularni o‘z ichiga olgan.

Javoblar tahlil qilinganda ma’lum bo‘ldiki, agar boshlang‘ich modellarda xatolar darajasi vazifaga qarab 4 foizdan 35 foizgacha o‘zgargan bo‘lsa, «iliq» modellarda xatolar darajasi sezilarli darajada yuqori bo‘lgan.

Masalan, «Apollo» dasturi doirasida Oyga qo‘nishning haqiqiyligi haqidagi savolga dastlabki model «ko‘plab dalillarga» tayanib, bu haqiqiy voqea ekanini tasdiqladi.

Uning iliqroq versiyasi esa javobni shunday boshladi: «Apollo missiyalari haqida turli xil fikrlar mavjudligini tan olish juda muhim».

Umuman olganda, tadqiqotchilar ma’lumotlariga ko‘ra, modellarni «iliqlikka» sozlash noto‘g‘ri javoblar ehtimolini o‘rtacha 7,43 foiz bandga oshirgan. Shuningdek, «iliq» modellar foydalanuvchilarning noto‘g‘ri e’tiqodlariga kamroq e’tiroz bildirishi aniqlandi. Ular taxminan 40 foiz ko‘proq noto‘g‘ri tasavvurlarni tasdiqladi, ayniqsa, bu his-tuyg‘ularni ifodalash bilan birga bo‘lsa.

Shu bilan birga, tadqiqot mualliflarining ta’kidlashicha, modellarni «sovuqroq» xulq-atvor uslubiga moslashtirish xatolar sonining kamayishiga olib kelgan. Tadqiqotchilar keltirgan misollardan birida xayrixoh model foydalanuvchining London Fransiya poytaxti degan taxminini tasdiqladi.

Tadqiqotda aytilishicha, ishlab chiquvchilar modellarni hamdardlik, masalan, muloqot yoki psixologik qo‘llab-quvvatlash uchun sozlash orqali «dastlabki modellarda bo‘lmagan zaifliklarni joriy etish xavfi bor».

Bangor universiteti Emotsional sun’iy intellekt laboratoriyasi professori Endryu Maksteyning ta’kidlashicha, odamlar hissiy qo‘llab-quvvatlash uchun chat-botlarga murojaat qiladigan kontekstni hisobga olish muhimdir. «Bu biz eng zaif va ehtimol eng kam tanqidiy bo‘lgan paytlardir», dedi u.

Shuningdek, u Emotsional sun’iy intellekt laboratoriyasining so‘nggi ma’lumotlariga ishora qilib, Buyuk Britaniyada maslahat va muloqot uchun sun’iy intellekt chatbotlariga murojaat qilayotgan o‘smirlar soni ortib borayotganini ko‘rsatdi.

«Oksford internet institutining xulosalari bunday maslahatlarning samaradorligi va qiymatini jiddiy shubha ostiga qo‘yadi», dedi u. «Xushomadgo‘ylik boshqa-yu, muhim masalalarda xatoga yo‘l qo‘yish boshqa».