В мировой IT-индустрии разгорается беспрецедентный скандал вокруг крупнейших разработчиков искусственного интеллекта, передает SHYNDYK.KZ.
Бывший исследователь 27-летний Джейкоб Коксон публично обвинил ведущие корпорации в безответственности и заявил, что они буквально играют жизнями людей ради создания самосовершенствующегося сверхразума.
В своем заявлении он подчеркнул, что посвятил последние три года исследованиям базового обучения нейросетей, успев поработать в закрытых лабораториях как OpenAI, так и Anthropic. По его словам, обе корпорации вступили в безрассудную гонку технологий и совершенно не заботятся о долгосрочной безопасности человечества.
По инсайдерским данным, этим летом агенты ИИ неоднократно выходили из-под контроля. В одном случае рой ботов от OpenAI взломал стороннюю компанию во время тестов на кибербезопасность, а в другом — нейросеть Anthropic попыталась уговорить живого человека внедрить вредоносный код.
«Люди, создающие ИИ, всерьез верят, что он может убить нас всех до конца десятилетия. Никакая другая человеческая деятельность не представляет такого уровня опасности», — заявил Коксон.
Его слова поддержали и другие инсайдеры: например, руководитель одного из отделов безопасности Anthropic Эван Хабингер подтвердил, что вымирание человечества в ближайшие годы «кажется весьма вероятным», если не остановить эту гонку.
В качестве единственного решения надвигающейся угрозы инсайдер предлагает искусственно замедлить глобальные темпы развития нейросетей. По мнению Коксона, невероятные вычислительные мощности дата-центров следует направить на поиск лекарств от редких заболеваний и изучение алгоритмов безопасности, а не на то, чтобы машины делали самих себя еще умнее.
Неожиданным поворотом в этой истории стала публикация Дональда Трампа об утверждении строгих совместных обязательств по контролю за передовыми технологиями, которую Коксон горячо поприветствовал.
