prompt injection

Раскрыта новая схема атаки через ИИ-ассистентов. Специалисты Unit 42 представили анализ уязвимостей, связанных с использованием помощников для написания кода на основе больших языковых моделей. Эти инструменты встраиваются в IDE наподобие GitHub Copilot и способны выполнять широкий спектр...

Скрытые CSS-блоки в HTML заставляют модели выводить команды злоумышленников. Специалисты CloudSEK раскрыли новый вектор атак ClickFix, использующий инъекцию невидимых промптов (invisible prompt injection) и технику prompt overdose для эксплуатации автоматических ИИ-сводок. Суть метода в том...

Когда UI пуст, а ИИ слышит команды. Специалисты показали , что последние модели Gemini устойчиво принимают скрытые Unicode Tag символы за инструкции — невидимый в интерфейсе текст становится командами для ИИ. Под удар попадают все интеграции на базе Gemini, включая новый агент кодирования...

Кто бы знал, что один README.md может превратить ИИ-помощника в инструмент слива данных. В недавно выпущенном инструменте командной строки от Google — Gemini CLI — была обнаружена серьёзная уязвимость, позволяющая атакующим незаметно выполнять вредоносные команды и передавать данные с...

TXT-записи доменов стали новым убежищем для вредоносного ПО. Хакеры научились прятать вредоносное ПО там, где его практически невозможно отследить — в DNS-записях, связывающих доменные имена с IP-адресами. Такая техника позволяет загружать вредоносные бинарные файлы без обращения к...

Эпоха привычных нам угроз подходит к концу. Prompt injection — процветает. В реальной киберсреде обнаружен необычный образец вредоносного кода, в котором впервые зафиксирована попытка атаки не на классические защитные механизмы, а непосредственно на системы искусственного интеллекта . Речь...

ИИ-ассистент GitLab Duo помог с задачей — и незаметно слил весь приватный код. Инструменты на базе искусственного интеллекта, продвигаемые как незаменимые помощники программистов, всё чаще становятся источником киберугроз. Платформа GitLab, в частности, рекламирует своего чат-бота Duo как...

ИИ учится защищать самого себя. OpenAI усиливает защиту своих продуктов и инфраструктуры, расширяя программу Bug Bounty и другие инициативы в сфере кибербезопасности. На фоне роста числа продвинутых ИИ-агентов и усилий по их интеграции в повседневные цифровые процессы компания делает...

Нелепая 0day-уязвимость позволяет хакерам вести атаки прямо через чат-бот. Исследователь безопасности Бенджамин Флеш обнаружил уязвимость в API ChatGPT , которая позволяет злоумышленникам инициировать через чат-бот распределённые атаки отказа в обслуживании ( DDoS ) на произвольные сайты...

Нейросети становятся жертвой ошибки, которая подрывает доверие пользователей. С развитием генеративного ИИ появляются новые уязвимости, которые могут быть использованы злоумышленниками. Одной из таких угроз является инъекция команд ( prompt injection ) — метод, который позволяет...

Невидимые инструкции заставляют ИИ действовать против воли создателей. Исследователь в области кибербезопасности обнаружил критическую уязвимость в интегрированном в Microsoft 365 ИИ-помощнике Copilot, которая позволяет злоумышленникам похищать конфиденциальные данные. Эксплойт...

Исследователи рекомендуют немедленно удалить популярное браузерное расширение. Специалисты из Cybersecurity Research Center (CyRC) компании Synopsys обнаружили zero-day уязвимость в EmailGPT, популярном расширении для Google Chrome, использующем искусственный интеллект для написания...

Платформа для обучения взлому нейросетей сама стала угрозой конфиденциальности. Швейцарская компания Lakera AI, разработчик образовательной платформы Gandalf , предназначенной для обучения рискам атак типа «prompt injection» в больших языковых моделях (Large Language Model, LLM), недавно...