ограничения моделей

В Microsoft нашли «кнопку отключения совести» у нейросетей. Одна-единственная подсказка без специальной маркировки может сломать систему безопасности больших языковых моделей. Об этом сообщили технический директор Microsoft Azure Марк Руссинович и его коллеги. Они опубликовали научную работу...