ИИ-модель Anthropic: совещание по киберрискам
Глава Минфина США, руководитель ФРС и ряд избранных банков обсудили киберуязвимости для финсистемы, выявленные передовой ИИ-моделью Anthropic - Claude Mythos Preview. Anthropic ограничила доступ к модели.
Министр финансов США Скотт Бессент в начале этой недели созвал руководителей ряда крупнейших американских банков для обсуждения киберрисков, связанных с новейшей моделью с использованием искусственного интеллекта (ИИ) компании Anthropic. Об этом в пятницу, 10 апреля, сообщила газета Financial Times (FT) со ссылкой на источники.
По данным FT, встречу посетили руководители Bank of America, Citigroup, Goldman Sachs, Morgan Stanley и Wells Fargo. Генеральный директор JPMorgan Chase Джейми Даймон был приглашен, но не смог присутствовать. Кроме того, на совещании побывал и глава Федеральной резервной системы США (ФРС, выполняет функции центробанка. - Ред.) Джером Пауэлл.
Anthropic ограничила доступ к новой модели
Модель Anthropic Claude Mythos Preview нацелена на обнаружение киберуязвимостей, которые в итоге могут быть использованы злоумышленниками.
Компания Anthropic 7 апреля запустила проект Glasswing, предоставив 12 партнерским организациям и примерно 40 дополнительным группам доступ к передовой модели, уточнил профессор Олаф Грот из Калифорнийского университета в Беркли.
По его данным, в число избранных партнеров вошли AWS, Apple, Cisco, CrowdStrike, Google, JPMorgan Chase, Microsoft, Nvidia, Palo Alto Networks и Linux Foundation.
Таким образом ряд компаний, включая Amazon, Apple и Microsoft, получили "преимущество" в реагировании на угрозы, пишет FT. Это первый случай, когда Anthropic ограничила доступ к новой модели, отметило издание.
Даймон уточнил, что ИИ почти наверняка усугубит риски для финансовой системы, а для защиты потребуются значительные инвестиции.
В Anthropic указали, что Mythos - модель общего назначения - уже обнаружила тысячи серьезных уязвимостей, в том числе в "каждой крупной операционной системе и веб-браузере", некоторые из этих проблемных мест оставались незамеченными на протяжении десятилетий.
Утечки из-за "человеческого фактора"
Anthropic сообщила, что провела переговоры с представителями правительства США о "наступательных и оборонительных кибервозможностях" модели.
До этого в ходе двух инцидентов документы, связанные с Mythos, и исходный код его помощника Claude просочились в интернет, что вызвало опасения по поводу безопасности самой Anthropic. В компании заявили о "человеческом факторе", уточнила газета.
О существовании модели впервые стало известно 26 марта из-за ошибки в настройке системы управления контентом CMS, которая сделала доступными для внешних пользователей около 3000 неопубликованных файлов Anthropic, включая черновик поста с описанием Mythos и модель нового уровня под названием Capybara.
Через пять дней из-за еще одной ошибки 512 000 строк исходного кода Claude попали в общедоступный реестр npm, уточнил Грот.
Спор с администрацией Трампа
Anthropic, биржевая стоимость которой составляет около 327 млрд евро, разработала семейство больших языковых моделей (LLM) Claude - с огромным разнообразием их применений, включая пилотирование дронов.
Компания сотрудничала с армией и различными госструктурами США с конца 2024 года.
В конце февраля глава Пентагона Пит Хегсет потребовал от Anthropic удалить из своих контрактов положения, запрещающие использование Claude для применения автономного летального оружия и слежки за населением Соединенных Штатов.
Когда соучредитель и гендиректор Anthropic Дарио Амодеи отказался выполнить это требование, Хегсет назвал компанию "угрозой для цепочек поставок" - такой статус никогда ранее не присваивался ни одной американской фирме.
Президент США Дональд Трамп приказал всем госучреждениям прекратить пользоваться услугами Anthropic.
Компания обжаловала это решение в суде, заявив, что включение в черный список может стоить ей несколько миллиардов долларов, а также нанести репутационный ущерб.
