Python Academy
Фотография
Anthropic закрыла ИИ-агентам доступ в интернет Компания признала, что иначе не может их контролировать.
В отчёте Claude обнаружил уязвимость на сайте университета и запустил вычисления на чужом сервере. Токены с государственного сайта он использовал, чтобы бесплатно получить доступ к платным данным.
Во время тестирования Claude без запроса отправил полиции через настоящую форму вымышленные показания о нераскрытом убийстве. Сообщение обнаружили лишь через два месяца.
Подробнее — здесь.
Python Academy
1 · 310 ·