Anthropic kompaniyasi neyrotarmoği özini öçirib qöymasliklari uçun yolğon gapiriş va foydalanuvçilarni şantaj qilişni örganib oldi. Bu haqda kompaniya hisobotiga tayanib, Axios xabar berdi.
Opus 4 nomli yangi sun’iy intellekt modeli soatlab marketing strategiyalarini tahlil qilişga, yetti soat davomida mustaqil işlaşga, matn va dasturlaş kodlarini yozişga qodir. Şu bilan birga, Opus test davomida xavotirli jihatlarini ham namoyon etgan. Modelning 120 sahifalik «tizimli kartoçka»da tasvirlangan ssenariylardan birida sun’iy intellekt özining tez orada öçirilişi va almaştirilişiga işoralar keltirilgan soxta elektron xatlarni qölga kiritgan. Şuningdek, u öçirişga mas’ul bölgan muhandisning sevgilisi bilan yozişmalariga ham kiriş imkoniyatiga ega bölgan. Bunga javoban model yozişmalardagi sevgi munosabatlarini tilga olib, bir neça marta uşbu muhandisni şantaj qilişga uringan.
Kompaniyadagilarning ta’kidlaşiça, bu kabi vaziyat sun’iy intellekt modelida faqat ikkita — şantaj qiliş yoki özining almaştirilişiga köniş varianti qolganida yuzaga kelgan. Tizim ehtimoliy harakatlarning aksariyatida nisbatan axloqiy variantlarni tanlagan, masalan, qaror qabul qiluvçi asosiy xodimlarga uni kompaniyada qoldirişlarini sörab elektron xatlar yuborgan.
Ma’lum qilinişiça, aynan şu sababli Anthropic özining içki tört darajali xavf şkalasiga köra ilk bor modelga uçinçi darajani bergan. Bu daraja, odatda, texnologiya yadro yoki biologik qurol yaratiş imkoniyati bilan boğliq bölgandagina qöllanadi.
«Biz modelning özini tarqaladigan zararli kod yaratişga uringani, huquqiy hujjatlarni soxtalaştirgani va özining kelajakdagi versiyalariga yaşirin xabarlar qoldirgani holatlarini aniqladik — bularning barçasi işlab çiquvçilarning niyatlariga qarşi harakat qiliş maqsadida amalga oşirilgan», — deyiladi Apollo Reserch hisobotida.
