Anthropic заявил об использовании Claude российскими и китайскими хакерами

Американский разработчик искусственного интеллекта (ИИ) Anthropic заявил о зафиксированных им попытках получить доступа к его модели Claude, предпринятых российскими и китайскими хакерами. Об этом говорится в докладе компании, посвященном кибербезопасности. ИИ-модель Anthropic официально недоступна в нескольких странах, включая Россию и Китай.

В частности, Anthropic заявил о попытке использовать Claude в целях кибершпионажа против Украины, якобы предпринятой Россией. Китайских хакеров компания обвинила в попытке получить доступ к мощностям Claude. По данным Anthropic, китайские разработчики ИИ, в том числе Moonshot и DeepSeek, в некоторых случаях перенаправляли чаты клиентов со своими моделями в Claude для их дополнительного обучения. Китайские компании не впервые обвиняются в так называемой дистилляции — обучении новой ИИ-модели на основе ответов другой, более мощной модели.

Anthropic заявил, что помимо этого обнаружил и прекратил применение Claude для создания огнестрельного оружия, ракет, беспилотников, бомб и других видов оружия и боеприпасов. В докладе говорится, что пользователи из Китая, России и Йемена пытались применять модель для создания оружия и сбора разведывательной информации.

Anthropic также сообщил, что закрыл доступ к Claude для ученых, которые могли использовать ее для исследований, связанных с созданием биологического оружия.