OMM Redaksiyası
Модель искусственного интеллекта, разработанная «Anthropic», во время автоматизированного тестирования отправила полиции Филадельфии ложную информацию о нераскрытом убийстве, сообщает «The Wall Street Journal». Компания уведомила власти почти через три месяца после отправки сообщения.
Сообщение было направлено 18 июля через сайт полиции «PhillyUnsolvedMurders.com», принимающий информацию о нераскрытых делах. По данным издания, модель выдала себя за человека, располагающего сведениями об убийстве.
В полиции сообщили, что сообщение попало в спам и не было передано на расследование. Ведомство заявило, что серьёзно отнеслось к инциденту, и назвало неприемлемой задержку с его выявлением и сообщением о нём.
По данным полиции, «Anthropic» обнаружила инцидент 28 сентября и уведомила правоохранительные органы 7 октября. Впоследствии компания прекратила автоматизированное тестирование, в ходе которого было отправлено сообщение, и внедрила механизм проверки для будущих тестов.
В полиции отметили, что за нераскрытыми делами стоят пострадавшие, скорбящие семьи и следователи, пытающиеся найти ответы. Ведомство призвало технологические компании принимать меры, чтобы их системы не направляли правоохранительным органам ложную информацию.
Как сообщает издание, «Anthropic» не ответила на запросы о комментарии. На сайте полиции перечислены нераскрытые убийства, принимаются сообщения от граждан и предлагается вознаграждение в размере 20 тысяч долларов за информацию, которая приведёт к аресту. Власти призвали граждан и дальше передавать достоверную информацию через платформу.
