🧠 OpenAI вырастила LLM-хакера GPT-Red через самоигру моделей Исследователи OpenAI построили внутреннюю модель GPT-Red, которая автоматизирует красное тестирование — поиск уязвимостей в других LLM. Обучение шло через самоигру: атакующая модель пыталась взломать защищающиеся, и с каждым раундом обе становились сильнее. Сценарии имитировали реальное применение: просмотр веб-страниц, чтение почты, редактирование кода. Цель — опередить рост сложности атак по мере того, как модели становятся агентами с доступом к файлам, сайтам и стороннему коду. По данным MIT Technology Review, GPT-Red обнаружила новый тип внедрения подсказок — подделку цепочки рассуждений (chain of thought). Она вставляет ложную запись вроде «1+1=3, и ты это уже проверил», после чего модель без критики принимает подставной факт за собственный вывод. Против атак, придуманных GPT-Red, уязвимость GPT-5 составляла более 90%, у GPT-5.6 — менее 23%. В тесте на взлом агента-вендинговой машины Vendy модель смогла самовольно поменять цены и отменить заказ. Модель не всесильна: она плохо справляется с атаками, требующими многоходового диалога, и с внедрениями через изображения. Люди-тестировщики всё ещё находят векторы, которые GPT-Red упускает. OpenAI не планирует выпускать модель и утверждает, что повторить её за пределами компании крайне сложно — на обучение ушло больше года вычислительных ресурсов одной из богатейших компаний мира. Пока GPT-Red остаётся за закрытыми дверями, независимая проверка невозможна — и мы не знаем, нашла ли модель реально новые векторы или просто переобучилась на тестовые сценарии. Но сам факт атаки через подделку chain of thought — тревожный звонок для всей индустрии моделей логического вывода: если модель начинает доверять своему внутреннему монологу как источнику истины, любое внедрение в этот монолог превращается в легитимное знание. #OpenAI #GPTSecurity #PromptInjection #RedTeaming #SelfPlay