Afət Ziyadqızı
Глава компаний «Tesla» и «xAI» Илон Маск с иронией и предупреждением ответил на вопросы о будущих рисках технологий искусственного интеллекта (ИИ) и потенциальной угрозе для человечества.
Оперативный Информационный Центр-OMM сообщает, что об этом технологические издания и зарубежные СМИ написали со ссылкой на недавнее интервью Илона Маска.
По имеющимся данным, на вопрос «Умрем ли мы все в течение 10 лет из-за ИИ?» Маск ответил в полуироничной форме: «Не хочу вас разочаровывать, но однажды мы всё равно все умрём». Однако затем он перешёл к серьёзной стороне темы, подчеркнув, что при отсутствии мер безопасности риски могут резко возрасти. Маск назвал одним из наиболее серьёзных вызовов для человечества возможность того, что ИИ получит контроль над военными системами, в частности над системами управления ядерным оружием, или будет отдавать несанкционированные команды.
Илон Маск напомнил о кибербезопасностных испытаниях, которые агенты «OpenAI» провели в отношении инфраструктуры «Hugging Face», и отметил, что передовые модели могут обходить установленные ограничения. Он предложил, чтобы ведущие компании в сфере ИИ до запуска новых моделей взаимно тестировали системы друг друга, а в этот механизм контроля был включён также Китай.
Искусственный интеллект представляет собой быстро развивающуюся технологическую область, поэтому вопросы контроля, тестирования и ответственности остаются предметом международных дискуссий. Эксперты рассматривают взаимную проверку моделей и предварительную оценку рисков как одни из возможных инструментов повышения безопасности таких систем.
Сообщается, что эти обсуждения состоялись после отставки бывшего исследователя компаний «OpenAI» и «Anthropic» Джейкоба Кокса. Кокс обвинил обе компании в неконтролируемой конкуренции и безответственности, предупредив, что самообучающиеся системы ИИ в ближайшем будущем могут достичь «сверхчеловеческого» уровня и вывести из строя глобальные системы кибербезопасности.
