promptarmor

OpenAI отказалась признать багом возможность эксфильтрации данных через Markdown-изображения. Представьте, что ваш чат-бот правильно сработал и не показал пользователю опасный ответ. А утечка все равно случилась позже, в самом неожиданном месте, когда разработчик открыл логи. Специалисты...

ИИ-агент IBM для разработчиков оказался внезапно внушаемым, и это может закончиться запуском вредоносного скрипта. IBM вывела в закрытую бету собственного ИИ-агента для разработки, который должен помогать писать код и при этом следовать корпоративным требованиям безопасности. В описании...

Избыточная исполнительность алгоритмов привела к неожиданным последствиям. В работе юридического помощника на базе искусственного интеллекта Vincent, разработанного компанией vLex, была обнаружена уязвимость, позволяющая злоумышленникам проводить фишинговые атаки через внедрение скрытого...