OMM Redaksiyası
Нобелевский лауреат Джеффри Хинтон выступил против поспешной разработки искусственного суперинтеллекта. По его словам, у учёных пока недостаточно знаний, чтобы гарантировать безопасность систем, превосходящих человека по возможностям, и обеспечить их контроль.
Британо-канадский специалист по информатике Хинтон, внесший вклад в создание основ современного искусственного интеллекта, стал одним из наиболее известных критиков этой технологии. В 2024 году он совместно с Джоном Хопфилдом получил Нобелевскую премию по физике за работы, заложившие основу искусственных нейронных сетей и машинного обучения.
В интервью газете The Times Хинтон заявил, что начинать разработку систем, обладающих интеллектуальными способностями, превосходящими человеческие, до определения механизмов их безопасного управления было бы «крайне неразумно».
«Начинать разработку суперинтеллекта сейчас было бы крайне неразумно. Потому что научного консенсуса относительно того, что его можно будет безопасно развивать и контролировать, не существует», — заявил Хинтон.
Опасения учёного связаны не только с возможными ошибками более мощных систем искусственного интеллекта. По его мнению, управлять системами, превосходящими человека по интеллекту, может стать чрезвычайно сложно или даже невозможно. Это способно создать прямую угрозу для человечества.
Ранее Хинтон оценивал вероятность того, что искусственный интеллект приведёт к исчезновению человечества в течение ближайших 30 лет, в диапазоне от 10 до 20 процентов. Свой подход он объяснял тем, что технологическое развитие идёт быстрее, чем ожидалось.
Одной из главных причин обеспокоенности учёного является отсутствие у человечества опыта взаимодействия с существами, превосходящими его по интеллекту. Хинтон считает, что появление машин, способных превзойти человеческие когнитивные возможности, принципиально отличается от предыдущих технологических новшеств.
Хинтон также поставил под сомнение мнение о том, что современные системы искусственного интеллекта лишь воспроизводят шаблоны, содержащиеся в обучающих данных. По его словам, продвинутые языковые модели могут понимать семантические и абстрактные понятия. Этот фактор усиливает его обеспокоенность возможностями таких систем.
Учёный считает, что контроль над развитием искусственного интеллекта нельзя оставлять исключительно на уровне саморегулирования технологических компаний. Он подчеркнул, что правительства и регулирующие органы должны играть более активную роль в этой сфере.
Хинтон сравнил технологические инновации с педалью газа автомобиля, а государственное регулирование — с рулевым механизмом, определяющим направление движения. По его мнению, одни лишь рыночные силы не способны устранить риски, связанные с искусственным интеллектом.
Учёный заявил, что коммерческая конкуренция побуждает компании создавать всё более мощные системы, а международное соперничество затрудняет внедрение мер безопасности. Компании могут опасаться, что замедление разработки даст преимущество конкурентам, работающим по другим правилам.
Хинтон на протяжении многих лет занимается исследованиями искусственных нейронных сетей и машинного обучения. Его работы сыграли значительную роль в развитии технологий, лежащих в основе современных систем искусственного интеллекта.
