OMM Redaksiyası
Исследователь Джейкоб Коксан, работавший в компаниях «OpenAI» и «Anthropic», ушёл в отставку с должности в «Anthropic» и выступил с резким предупреждением о будущем искусственного интеллекта.
В публикации на платформе «X» Коксан сообщил, что на протяжении последних трёх лет проводил исследования в области предварительного обучения в обеих компаниях. По его словам, компании ведут себя безответственно и «играют жизнями людей, участвуя в гонке к самоулучшающемуся суперинтеллекту».
По мнению исследователя, будущие системы искусственного интеллекта смогут превосходить людей в различных областях, создавать сложные киберугрозы и со временем самостоятельно расширять свои возможности. Коксан отметил, что специалисты, работающие над искусственным интеллектом, всерьёз считают: к концу этого десятилетия технология может уничтожить всё человечество.
Сотрудник «Anthropic» Эван Хубингер заявил, что позиция Коксана соответствует действительности. Он оценил вероятность того, что искусственный интеллект уничтожит всех людей в течение следующего десятилетия, более чем в 10 процентов.
Хубингер подчеркнул, что «Anthropic» делает всё возможное для решения проблемы, однако на данный момент не располагает планом по обеспечению соответствия суперинтеллекта человеческим ценностям.
Анна Ван, ранее работавшая в «Google DeepMind», а ныне являющаяся сотрудницей «Anthropic», также сообщила, что подобные опасения широко распространены среди её коллег. По её словам, пока не существует работоспособного научного плана по устранению рисков, связанных с искусственным интеллектом, способным неоднократно улучшать самого себя.
Бывший исследователь «Google DeepMind» Алекс Тёрнер также поддержал позицию Коксана. Он заявил, что многие исследователи считают: они создают технологию, которая может привести к гибели всех людей на планете.
Предупреждение привлекло внимание и законодателей США. Сенатор Берни Сандерс поддержал Коксана и сообщил, что представит законопроект о запрете искусственного суперинтеллекта и приостановке развития искусственного интеллекта.
Республиканский сенатор Тед Круз назвал возможные последствия развития искусственного интеллекта «катастрофическим риском» и призвал принять более серьёзные меры безопасности.
В «Anthropic» заявили, что компания всегда открыто говорила о том, что искусственный интеллект может принести как значительные преимущества, так и беспрецедентные риски. В компании отметили, что работают над механизмами безопасности, связанными с выпуском более мощных моделей, и поддерживают более широкую координацию.
Коксан считает, что добровольных ограничений будет недостаточно. По его мнению, пока между компаниями сохраняется конкуренция, исследователи должны требовать иных условий, а не молчать, заявляя, что «этот процесс всё равно уже идёт».
Дискуссия о рисках суперинтеллекта связана с развитием систем, способных самостоятельно выполнять сложные задачи, анализировать большие объёмы данных и совершенствовать собственные методы работы. Эксперты расходятся в оценках вероятности наиболее опасных сценариев, однако вопросы контроля, безопасности и международного регулирования остаются центральными в обсуждении будущего ИИ.
