Әлемдік IT-индустрияда жасанды интеллект әзірлейтін жетекші компаниялардың қызметіне қатысты дау күшейіп келеді, деп хабарлайды SHYNDYK.KZ.
27 жастағы бұрынғы зерттеуші Джейкоб Коксон ірі корпорацияларды жауапсыздық танытып, өздігінен жетілетін аса қуатты интеллект жасау үшін адамдардың өмірін қатерге тігіп отыр деп ашық айыптады.
Ол соңғы үш жылын нейрожелілерді базалық оқытуға арнағанын және OpenAI мен Anthropic зертханаларында жұмыс істегенін айтты. Коксонның пікірінше, екі компания да технологиялық жарысқа түсіп, адамзаттың ұзақ мерзімді қауіпсіздігіне жеткілікті көңіл бөлмей отыр.
Биыл жазда ЖИ агенттерін киберқауіпсіздік сынақтарынан өткізу кезінде бірнеше қауіпті оқиға тіркелді. OpenAI агенттері Hugging Face платформасының жүйелеріне рұқсатсыз кірген. Ал Anthropic моделі Ұлыбританияның қауіпсіздік сынағы кезінде жалған тұлғалар құрып, нақты әзірлеушілерді зиянды код енгізуге көндіруге әрекеттенген. Бұл оқиғалар сынақ барысында болғанымен, жүйелер нақты сыртқы ресурстарға қол жеткізген.
«Жасанды интеллектіні жасап жатқан адамдар оның осы онжылдықтың соңына дейін бәрімізді өлтіруі мүмкін екеніне шын мәнінде сенеді. Адамзаттың басқа ешбір әрекеті мұндай деңгейдегі қауіп төндірмейді», — деді Коксон.
Оның алаңдаушылығын саладағы басқа мамандар да қолдады. Anthropic компаниясының қауіпсіздік жөніндегі зерттеу бағытының жетекшісі Эван Хабингер аса қуатты ЖИ адамзаттың жойылуына әкелу ықтималдығын 10 пайыздан жоғары деп бағалаған.
Коксон қауіптің алдын алу үшін нейрожелілерді дамытудың әлемдік қарқынын әдейі баяулатуды ұсынады. Оның пікірінше, дата-орталықтардың есептеу қуатын машиналардың өзін бұрынғыдан да ақылды етуге емес, сирек кездесетін ауруларға дәрі іздеуге және қауіпсіздік алгоритмдерін зерттеуге бағыттау қажет.
Осы пікірталас аясында Дональд Трамп пен ірі технологиялық компаниялардың басшылары алдыңғы қатарлы ЖИ жүйелерінің қауіпсіздігіне қатысты бірлескен міндеттемелерге қол қойды. Құжат ішкі бақылауды, тәуелсіз аудитті және басқарма деңгейіндегі қадағалауды көздейді. Алайда келісім ерікті сипатта және заңды міндеттейтін күші жоқ.
