ии-атаки
-
Новости Офисы превращаются в филиалы спецслужб. А нейросети — в спецагентов
ИИ помогает шпиону стать идеальным сотрудником. Генеративные ИИ-модели становятся полноценными инструментами в арсенале атакующих. Об этом свидетельствует свежий отчёт компании CrowdStrike за 2025 год, в котором прослеживается резкий рост количества атак, использующих искусственный интеллект...- NewsMaker
- Тема
- crowdstrike famous chollima genai langflow ии-атаки кибершпионаж северная корея
- Ответы: 0
- Форум: Новости в Мире
-
Новости Чем умнее становится ИИ, тем легче его обмануть: атаки Inception и логический обход уже работают на ChatGPT и Gemini
Исследователи выявили, как превратить любую нейросеть в послушную марионетку. Многие ведущие сервисы генеративного искусственного интеллекта оказались уязвимы к новым техникам обхода встроенных ограничений, позволяющим создавать вредоносный контент. Исследователи из CERT/CC обнаружили сразу...- NewsMaker
- Тема
- cert/cc inception генеративный ии ии ии-атаки логика отказа уязвимость
- Ответы: 0
- Форум: Новости в Мире
-
Новости Как одной шуткой превратить ChatGPT в пособника хаоса
Сыграли в ролевую — получили катастрофу. Специалисты HiddenLayer разработали первую универсальную технику атак на ИИ, способную обойти защиту практически всех передовых языковых моделей. Новый метод под названием Policy Puppetry позволяет нарушить встроенные ограничения моделей и добиться...- NewsMaker
- Тема
- chatgpt claude gemini hiddenlayer llm policy puppetry безопасность ии ии-атаки
- Ответы: 0
- Форум: Новости в Мире