OMM Redaksiyası
Генеральный директор компании "Anthropic" Дарио Амодеи призвал замедлить темпы разработки всё более мощных систем искусственного интеллекта. По его словам, необходимо больше времени для оценки рисков, которые могут создавать эти технологии, и усиления мер безопасности.
Амодеи подчеркнул, что компании не должны прекращать развитие искусственного интеллекта. По его мнению, в процесс разработки следует закладывать дополнительное время, чтобы механизмы безопасности успевали соответствовать росту возможностей моделей.
В статье, опубликованной на платформе "X", глава "Anthropic" отметил, что даже при некотором снижении темпов разработки прогресс в сфере искусственного интеллекта будет оставаться быстрым.
Амодеи предложил трёхэтапную структуру, которая позволит выделить больше времени для управления рисками. Одно из предложений предусматривает размещение в ведущих компаниях, занимающихся искусственным интеллектом, независимых сторонних оценщиков, которые будут работать на постоянной основе.
Эти оценщики должны получить доступ к соответствующим инструментам и внутренним процессам, используемым для выявления рисков. Амодеи также предложил, чтобы независимые эксперты проверяли, принимают ли компании необходимые меры для обеспечения безопасности своих моделей и их соответствия заявленным целям.
Этот призыв прозвучал на фоне растущей обеспокоенности возможным злоупотреблением передовыми системами искусственного интеллекта. Речь идёт об их использовании в кибероперациях, наблюдении, мошенничестве и разработке вооружений.
Предложение было выдвинуто после опубликованного "Anthropic" в четверг отчёта о разведке угроз. В документе говорится, что несколько субъектов использовали модели искусственного интеллекта "Claude" компании для различных опасных видов деятельности.
Обеспокоенность возможными последствиями развития искусственного интеллекта усилилась и после отставки на этой неделе исследователя "Anthropic" Джейкоба Коксона. Коксон заявил, что специалисты, работающие в сфере искусственного интеллекта, всерьёз считают, что к концу десятилетия эта технология может уничтожить всё человечество.
Амодеи призвал компании добровольно сотрудничать в создании общих стандартов управления рисками, связанными с передовым искусственным интеллектом. Его заявление прозвучало в период, когда законодатели США требуют принятия новых правил регулирования систем искусственного интеллекта.
Искусственный интеллект применяется для обработки данных, автоматизации процессов и создания цифрового контента, однако развитие наиболее мощных моделей сопровождается дискуссиями о безопасности, прозрачности и ответственности разработчиков. Независимая оценка и единые стандарты рассматриваются как возможные инструменты снижения технологических и общественных рисков.
