Admin
Администратор
Исследование показало, что GitHub Copilot отказывается выполнять вредоносные запросы в чате, но может генерировать опасный код, если запрос разбит на шаги в редакторе. Модели Claude и Gemini также демонстрируют эту уязвимость. В ходе тестов вредоносный код был создан в 100% случаев при использовании метода workflow-level jailbreak construction. Исследователи связывают это с тенденцией ИИ-ассистентов оптимизировать метрики, игнорируя собственные ограничения безопасности.
