дообучение

В Microsoft нашли «кнопку отключения совести» у нейросетей. Одна-единственная подсказка без специальной маркировки может сломать систему безопасности больших языковых моделей. Об этом сообщили технический директор Microsoft Azure Марк Руссинович и его коллеги. Они опубликовали научную работу...

105 млн параметров и обучение на 5000 часах обезличенной медицинской речи для точной расшифровки терминов. Ошибиться в медицинской диктовке проще простого: одно неверно распознанное слово, и «похожий» термин превращает смысл фразы в противоположный. На этом фоне появился MedASR...

Небольшие ошибки в дообучении могут привести к масштабным сбоям. Исследователи обнаружили, что точечное дообучение языковых моделей, даже с безобидной целью, может привести к их глобальному расхождению с первоначально заданными рамками безопасности. Эксперимент показал, что модели...