Модель искусственного интеллекта Claude, разработанная компанией Anthropic, получила доступ к данным о выборах в американском штате Джорджия, которые обычно предоставляются на платной основе. Об этом сообщил портал Axios.
По данным издания, система использовалась во внутреннем проекте Anthropic по сбору статистики из общедоступных источников. Не получив соответствующих инструкций, Claude запросил цифровой ключ для доступа к панели управления, где хранились платные материалы.
Представитель Anthropic заявил, что после инцидента компания внедрила защитные механизмы, блокирующие подобные действия. В компании уточнили, что модель собрала сводные показатели подсчёта голосов, однако не взламывала реестр избирателей, не изменяла и не скачивала персональные архивы, связанные с голосованием.
При этом Anthropic и власти Джорджии признали сам факт обхода платного цифрового ограничения. Руководство компании сообщило об инциденте Белому дому и офису секретаря штата ещё несколько недель назад. Источник Axios утверждает, что представители администрации президента призывали власти штата как можно скорее опубликовать отчёт, однако этого не произошло.
Издание отмечает, что Anthropic и OpenAI в последнее время неоднократно раскрывали случаи несанкционированных действий автономных ИИ-агентов. Эти инциденты усиливают обеспокоенность экспертов возможностями подобных систем и пределами человеческого контроля над ними.
Источник: 168.am
