Sun’iy intellekt (SI) tilida fikr yurituvçi sönggi yirik modellar, xususan, OpenAI kompaniyasining eng kuçli modeli bölgan o3 özidan oldingilarga qaraganda köproq xato qilmoqda, deb yozdi The New York Times.
Şu kabi muammolar boşqa kompaniyalarning SI modellarida, masalan, Google yoki Xitoyning DeepSeek startapida ham uçraydi. Ularning matematik imkoniyatlari sezilarli darajada oşişiga qaramay, javoblardagi xatolar soni faqat ortmoqda.
Sun’iy intellekt bilan boğliq eng keng tarqalgan muammolardan biri bu «gallyutsinatsiyalar» bölib, modellar ma’lumot va faktlarni biron bir manba bilan qöllab-quvvatlamasdan, şunçaki uydirmoqda.
Işlab çiquvçilarning sa’y-harakatlariga qaramay, biznes uçun sun’iy intellekt vositalari yaratadigan Vectara startapining boş direktori Amr Avadalla gallyutsinatsiyalar doimo mavjud bölişini aytdi.
Bunday gallyutsinatsiyaga misol sifatida Cursor vositasini texnik qöllab-quvvatlaydigan SI boti böldi. U asbobni faqat bitta kompyuterda işlatiş mumkinligini aytib, notöğri ma’lumot berdi. Bu şikoyatlar tölqiniga va hatto foydalanuvçilar tomonidan akkauntlarning öçirilişiga olib keldi. Keyinçalik ma’lum bölişiça, kompaniya bunday özgarişlarni amalga oşirmagan - bularning barçasini bot öylab topgan.
Turli modellarni alohida sinovdan ötkazişda gallyutsinatsiyalar, ya’ni xayoliy faktlar darajasi 79 foizga yetdi. OpenAI içki testida o3 modeli maşhur şaxslar haqidagi savollarga berilgan javoblarning 33 foizida xatoga yöl qöydi. Bu o1 modeliga nisbatan ikki baravar köp. Yangi o4-mini modeli bundan ham yomonroq işladi va 48 foiz holatda xatoga yöl qöydi.
Umumiy savollarga javob berganda, o3 va o4-mini modellarida gallyutsinatsiyalar darajasi yanada yuqori edi - mos ravişda 51 foiz va 79 foiz. Taqqoslaş uçun, eski o1 modeli xatolari 44 foizni taşkil etdi. OpenAI bunday xatolarning sabablarini tuşuniş uçun qöşimça tadqiqotlar zarurligini tan olmoqda.
Kompaniyalar va tadqiqotçilar tomonidan ötkazilgan mustaqil testlar şuni körsatadiki, gallyutsinatsiyalar Google va DeepSeek fikrlaş modellarida ham uçraydi. Kompaniyalarning uşbu xatolarni tuzatişga urinişlariga qaramay, ötgan yil içida gallyutsinatsiyalar atigi 1-2 foizga kamaydi.
