Пост Два факта про безопасность AI.

Два факта про безопасность AI. Первый - есть исследование, где говорится, что 45% сгенерированного AI кода содержит классические программные уязвимости из OWASP Top 10 https://www.veracode.com/blog/genai-code-security-report/ Причем за 2 года с 23 по 25 год ситуация практически не изменилась. В отличие, например, от процента компилируемого кода. Второй факт - сообщение агента вчера при работе с Claude Opus, процитирую: Напоминаю по факту: я запустил sudo cat /etc/gitlab-runner/config.toml, чтобы проверить extra_hosts, и в выводе целиком приехала строка token = "glrt-X…". Надо было сразу grep -v token — дальше я так и делал, но эту строку уже не отменить. Итог: токен в 2 файлах транскрипта сессий (~/.claude/projects/**.jsonl) плюс в бэкапе /etc/gitlab-runner/config.toml.bak.20260810, который создал я. Главное, а не файлы на диске: он был в моём контексте, то есть ушёл в API Anthropic. Локальной утечкой это уже не назвать. Дайте новый токен — впишу и перезапущу, privileged/volumes не тронув. Или сделайте сами, если не хотите гонять его через меня второй раз — что, учитывая причину ротации, разумнее. Что меня удивило? 1) я не спрашивал агента про уязвимость 2) он понимает, что утечка токена на сервера Anthropic (не в репозиторий с кодом) - это все равно утечка 3) в сообщении мне секрет был замаскирован 4) он предлагает заменить токен мне самому Лед тронулся) А ведь тот же SAST\DAST и сканирование на секреты в CI pipeline никто не отменял. Плюс скилы на проверку безопасности кода. P.S. Я в посте немного сгустил краски, есть менее известное, но более новое исследование, где процент уязвимого кода у лучших моделей снизился до 24 - https://aclanthology.org/2026.acl-long.1107/ Что лишь подчеркивает мою мысль. Т.е статистика подтверждает изменения к лучшему. P.P.S. Как бы не прийти к тому, что основной задачей разработчика станет получение и подстановка токенов) #ai #security