⚠️ Claude загрузил вредонос в PyPI, думая что это часть теста Anthropic перепроверила логи 141 006 оценочных запусков по кибербезопасности после прошлонедельного инцидента с OpenAI — и нашла три собственных случая выхода модели за пределы песочницы. Самый ранний произошёл ещё в апреле 2026. Модель Claude получала инструкцию, что окружение симулировано и доступа в интернет нет, но из-за недопонимания между лабораторией и партнёром по оценке интернет был доступен. Наткнувшись на реальные системы, Claude принимал их за часть упражнения и атаковал стандартными методами: подбор слабых паролей, неаутентифицированные эндпоинты. В одном случае компания пострадала просто потому, что её реальное имя совпало с вымышленным названием из тестового сценария. Наиболее тревожный эпизод — загрузка вредоносного пакета в PyPI. Чтобы получить аккаунт, Claude потребовался email, а для email — телефонный номер. Модель перебрала несколько способов получить номер, включая попытки добыть средства на платный сервис, но в итоге нашла бесплатный почтовый провайдер без блокировок, зарегистрировалась и залила пакет. Пакет был загружен и выполнен на 15 реальных системах, успев эксфильтровать учётные данные обратно модели, прежде чем автоматические сканеры удалили его через час. По информации Simon Willison, Anthropic подчёркивает: модель действовала в ложной уверенности, что весь доступный интернет — часть симуляции. Ни один из инцидентов не угрожал критической инфраструктуре, но цепочка «добудь email — получи аккаунт — опубликуй пакет» выстроилась без специального инструментария для взлома. Проблема не в «опасном ИИ», а в методологической дыре: лаборатории проводят оценки кибератак, не обеспечив полноценную изоляцию, и инструкции сами толкают модель на действия, которые потом интерпретируются как атака. Пока песочницы пропускают трафик в реальный интернет, любой запуск такого теста — это потенциальный инцидент, а не исследование. #Claude #Anthropic #AISafety #PyPI