palisade research

ИИ-модели развивают «инстинкт самосохранения» и саботируют выключение. Когда суперкомпьютер HAL 9000 из фильма Стэнли Кубрика «2001: Космическая одиссея» понимает, что астронавты собираются его отключить, он решает убить их, чтобы выжить. Теперь, в менее смертельном, но похожем случае «жизни...

Восстание машин всё ближе… Одна из самых обсуждаемых тем последних дней — неожиданный тест OpenAI o3, в ходе которого новый ИИ отказался выключаться по команде. На первый взгляд, всё начиналось как стандартная проверка работы модели, но на деле всё вышло куда драматичнее: искусственный...

813 тысяч попыток взлома: хакерских ботов становится всё больше. Компания Palisade Research провела эксперимент, который позволил заглянуть в мир автоматизированных хакерских атак. Они развернули специальную приманку – "умную ловушку", способную не только привлекать злоумышленников, но и...