Anthropic kompaniyasi rahbari Dario Amodey xavfsizlik nuqtai nazaridan sunʼiy intellektning yanada kuçli modellarini işlab çiqiş surʼatini sekinlaştirişga çaqirdi.
«Oxirgi bir neça oy davomida men xavflarni töliq bartaraf etiş uçun yanada ehtiyotkor böliş zarur, degan xulosaga keldim. Faqat xavflarning oldini oliş çoralariga sarmoya kiritişning özi yetarli emas, xavfsizlik çoralari ularga yetib olişga ulgurişi uçun SI modellari imkoniyatlarini rivojlantiriş surʼatini ham sekinlaştiriş zarur. Biz SI modellari imkoniyatlarining rivojlaniş tezligini pasaytirişimiz kerak», - deyiladi Amodeyning bayonotida.
U şu yozdan boşlab SI rivoji sezilarli darajada tezlaşganidan xavotir bildirdi. Amodeyning fikriça, bu sunʼiy intellektning keyingi avlod modellarini yaratiş imkoniyatlari ösib borayotgani bilan boğliq. U, şuningdek, Hugging Face maşinali öqitiş platformasi OpenAI’ning SI agentlari tomonidan buzib kirilganidan xavotirda.
«Şuning uçun men ilğor texnologiyalar rivojini jilovlaşni maqsad qilgan uç bosqiçli rejani taklif qilaman», - deb yozdi Amodey.
Uning rejasi SI kompaniyalari tomonidan xavfsizlik çoralari va modellarni öqitiş jarayonlariga rioya etilişini doimiy ravişda tekşiriş uçun mustaqil auditorlarni jalb qiliş, şuningdek, xavfsizlikning umumiy standartlarini işlab çiqiş böyiça xalqaro darajada muvofiqlaştirişni öz içiga oladi.
Iyul oyida OpenAI sinov jarayonida uning modellari Hugging Face infratuzilmasini mustaqil ravişda buzib kirganini maʼlum qilgandi. Keyinçalik bunday holat yagona emasligi maʼlum böldi.
Avvalroq Anthropic tadqiqotçisi Jeykob Kokson SI sanoatini tark etişini maʼlum qilib, texnologik korporatsiyalar örtasidagi poyga dunyoni «qaytiş nuqtasi»ga yaqinlaştirayotganidan va 2027-yil oxiriga borib apokaliptik ssenariyga olib kelişi mumkinligidan xavotir bildirgan edi.
Koksonning bayonotidan keyin kompaniyaning yana bir xodimi, SIni inson manfaatlariga moslaştiriş - AI alignment yönalişi böyiça tadqiqot rahbari Evan Xubinger sunʼiy intellektning yaqin ön yil içida insoniyatni yöq qilib yuboriş ehtimoli 10 foizni taşkil etişi haqida ogohlantirdi.
