Anthropic kompaniyasi rahbari Dario Amodey xavfsizlik nuqtai nazaridan sunʼiy intellektning yanada kuchli modellarini ishlab chiqish surʼatini sekinlashtirishga chaqirdi.
«Oxirgi bir necha oy davomida men xavflarni toʻliq bartaraf etish uchun yanada ehtiyotkor boʻlish zarur, degan xulosaga keldim. Faqat xavflarning oldini olish choralariga sarmoya kiritishning oʻzi yetarli emas, xavfsizlik choralari ularga yetib olishga ulgurishi uchun SI modellari imkoniyatlarini rivojlantirish surʼatini ham sekinlashtirish zarur. Biz SI modellari imkoniyatlarining rivojlanish tezligini pasaytirishimiz kerak», - deyiladi Amodeyning bayonotida.
U shu yozdan boshlab SI rivoji sezilarli darajada tezlashganidan xavotir bildirdi. Amodeyning fikricha, bu sunʼiy intellektning keyingi avlod modellarini yaratish imkoniyatlari oʻsib borayotgani bilan bogʻliq. U, shuningdek, Hugging Face mashinali oʻqitish platformasi OpenAI’ning SI agentlari tomonidan buzib kirilganidan xavotirda.
«Shuning uchun men ilgʻor texnologiyalar rivojini jilovlashni maqsad qilgan uch bosqichli rejani taklif qilaman», - deb yozdi Amodey.
Uning rejasi SI kompaniyalari tomonidan xavfsizlik choralari va modellarni oʻqitish jarayonlariga rioya etilishini doimiy ravishda tekshirish uchun mustaqil auditorlarni jalb qilish, shuningdek, xavfsizlikning umumiy standartlarini ishlab chiqish boʻyicha xalqaro darajada muvofiqlashtirishni oʻz ichiga oladi.
Iyul oyida OpenAI sinov jarayonida uning modellari Hugging Face infratuzilmasini mustaqil ravishda buzib kirganini maʼlum qilgandi. Keyinchalik bunday holat yagona emasligi maʼlum boʻldi.
Avvalroq Anthropic tadqiqotchisi Jeykob Kokson SI sanoatini tark etishini maʼlum qilib, texnologik korporatsiyalar oʻrtasidagi poyga dunyoni «qaytish nuqtasi»ga yaqinlashtirayotganidan va 2027-yil oxiriga borib apokaliptik ssenariyga olib kelishi mumkinligidan xavotir bildirgan edi.
Koksonning bayonotidan keyin kompaniyaning yana bir xodimi, SIni inson manfaatlariga moslashtirish - AI alignment yoʻnalishi boʻyicha tadqiqot rahbari Evan Xubinger sunʼiy intellektning yaqin oʻn yil ichida insoniyatni yoʻq qilib yuborish ehtimoli 10 foizni tashkil etishi haqida ogohlantirdi.
