инъекция подсказок

  1. NewsMaker

    Новости Ваш ИИ-агент сам отформатирует вам жёсткий диск. Главное — лишь правильно его об этом попросить

    Алгоритмы оказались слишком доверчивыми к чужим уловкам. ИИ-агенты всё чаще читают сайты, документы и письма вместо человека, поэтому злоумышленникам уже не всегда нужно взламывать саму систему. Достаточно спрятать команду там, где модель её увидит. Google проверила, насколько такие атаки...