Редакция OMM
Лауреат Нобелевской премии Джеффри Хинтон выступил против ускорения разработки искусственного суперинтеллекта. Он заявил, что пока нет достаточной научной базы для обеспечения безопасности систем, превосходящих человека по возможностям, и контроля над ними.
Хинтон: начинать гонку за суперинтеллектом было бы «очень глупо»
Британо-канадский компьютерный учёный, один из исследователей, заложивших основы современного искусственного интеллекта, в интервью газете “The Times” раскритиковал начало разработки суперинтеллекта до решения вопросов безопасности.
«Начинать разработку суперинтеллекта сейчас было бы очень глупо. Потому что научного консенсуса относительно возможности его безопасного создания и контроля над ним не существует», — сказал Хинтон.
По его словам, основной риск заключается не только в том, что мощные системы искусственного интеллекта могут совершать ошибки. Системы, обладающие более высоким интеллектом, чем люди, могут выйти из-под контроля и даже стать неуправляемыми, что создаёт серьёзную угрозу для человечества.
Риск гибели человечества оценивается в 10–20 процентов
Ранее Хинтон оценил вероятность того, что искусственный интеллект станет причиной гибели людей в течение ближайших 30 лет, в 10–20 процентов. Свою оценку он обосновал тем, что технологическое развитие идёт быстрее, чем ожидалось.
Учёный считает, что человечество не имеет опыта взаимодействия с существами, превосходящими его по интеллекту. Поэтому появление машин, способных превзойти когнитивные возможности человека, принципиально отличается от предыдущих технологических инноваций.
Хинтон также не согласен с мнением, что современные системы искусственного интеллекта лишь воспроизводят шаблоны из обучающих данных. По его мнению, передовые языковые модели способны понимать семантические и абстрактные понятия.
Призыв к более активной роли правительств
Хинтон считает, что контроль над развитием передового искусственного интеллекта нельзя оставлять исключительно на саморегулирование технологических компаний. По его мнению, правительства и регулирующие органы должны определять направление этого процесса.
Учёный сравнил технологические инновации с педалью акселератора автомобиля, а государственное регулирование — с рулевым механизмом, определяющим его направление. Он также не верит, что рыночные силы самостоятельно устранят риски, создаваемые искусственным интеллектом.
По словам Хинтона, коммерческая конкуренция побуждает компании создавать всё более мощные системы. Международное соперничество, в свою очередь, может заставить компании сокращать время, отведённое на обеспечение безопасности. Он подчеркнул, что эта проблема обостряется на фоне технологической конкуренции между Китаем и западными странами.
Деятельность Хинтона в сфере искусственного интеллекта
Хинтон много лет работал в компании “Google” и участвовал в исследованиях, способствовавших стремительному развитию современного машинного обучения. В 2023 году он покинул компанию, заявив, что хочет свободнее говорить о рисках искусственного интеллекта.
В 2024 году Хинтон и Джон Хопфилд были удостоены Нобелевской премии по физике за открытия и изобретения, сделавшие возможными машинное обучение с использованием искусственных нейронных сетей.
Хинтон считает, что человечество пока ещё может влиять на развитие и контроль над набирающим силу искусственным интеллектом. Однако конкуренция компаний за создание систем, превосходящих людей по возможностям, может ограничить возможности для разработки механизмов безопасности.
