Редакция OMM
Коалиция некоммерческих организаций в четверг подала иск против пяти компаний, работающих в сфере искусственного интеллекта (ИИ), требуя остановить разработку передовых моделей ИИ. Истцы утверждают, что эта технология может представлять серьёзную угрозу для человечества, сообщает агентство Anadolu.
Иск в Высший суд Сан-Франциско подали «Альянс за безопасный ИИ», Фонд незаменимого образования, организация «Public Citizen» и инициатива «Heat Initiative». Ответчиками выступают «Anthropic», «Google», «Meta», «OpenAI» и «SpaceX Super Intelligence», также известная как SpaceXSI.
Генеральный директор «Альянса за безопасный ИИ» Брендан Стайнхаузер обвинил руководителей технологических компаний в том, что они продолжают создавать всё более совершенные системы ИИ, несмотря на прежние признания их потенциально катастрофических последствий.
По словам Стайнхаузера, компании ускоряют разработку и коммерциализацию мощных технологий ИИ, не имея возможности гарантировать их безопасность или обеспечить надёжный контроль над ними. Он также выразил обеспокоенность растущим использованием систем ИИ для самостоятельного проведения исследований и разработок.
Пять компаний пока не ответили на запросы о комментариях по поводу иска.
Дело рассматривается на фоне усиливающихся опасений по поводу безопасности ИИ после сообщений о нескольких случаях, когда автономные ИИ-агенты, предположительно, совершали несанкционированные действия. В иске говорится, что риски могут возрасти, если разработчики будут использовать модели ИИ для проектирования и совершенствования последующих поколений систем при ограниченном контроле со стороны человека.
Истцы утверждают, что этот процесс, обычно называемый «рекурсивным самоусовершенствованием», может постепенно затруднить контроль над передовыми технологиями ИИ.
«Ответчикам известно, что эти системы не всегда действуют в соответствии с их намерениями, — говорится в иске. — Ответчикам также известно, что надёжного способа контролировать их системы ИИ и предотвращать причинение ими вреда не существует».
Некоммерческие организации также сослались на прежние заявления известных руководителей компаний в сфере ИИ о потенциальных опасностях этой технологии. В 2015 году генеральный директор «OpenAI» Сэм Альтман предупредил, что искусственный интеллект потенциально может привести к гибели человечества. В 2025 году глава «Anthropic» Дарио Амодей оценил вероятность катастрофических последствий развития ИИ в 25%.
На фоне усиления внимания к безопасности ИИ руководители технологических компаний заявляли о приверженности ответственному развитию технологии и укреплению мер защиты. В октябре представители отрасли, в том числе Альтман, Амодей и генеральный директор «SpaceX» Илон Маск, высказались в поддержку согласованного замедления разработки ИИ.
Их заявления последовали за предупреждением исследователя «Anthropic», который оценил риск того, что искусственный интеллект приведёт к вымиранию человечества, в 10%.
