языковые модели

Проанализировали 2000 диалогов с чат-ботами и выяснили: вежливость повышает доверие, даже когда они несут бред. Люди начинают видеть в чат-боте нечто похожее на собеседника не тогда, когда модель отвечает точнее, а тогда, когда она звучит дружелюбнее. К такому выводу пришли авторы нового...

Если в препринте написано «всё выдумано», а ИИ всё равно верит — кто виноват: модель или система? Иногда для проверки искусственного интеллекта не нужны сложные атаки и тонкая подмена данных. Хватит одной выдуманной болезни, пары фальшивых научных текстов и нескольких недель ожидания. Именно...

Весь интернет учил промптить неправильно. Теперь есть доказательства. «Ты — эксперт в машинном обучении», «Представь, что ты senior-разработчик» — подобные вступления к промптам давно стали ритуалом при работе с нейросетями. Интернет переполнен гайдами , советующими назначить модели роль...

ROME обошла DeepSeek, будучи в 10 раз меньше. Исследователи из Alibaba представили открытую языковую модель ROME, способную самостоятельно выполнять сложные многошаговые задачи: писать и отлаживать код, работать с терминалом, пользоваться внешними инструментами и итеративно исправлять...

Если у людей истина рождается в споре… почему бы машинам не использовать это? Команда исследователей из Google, Чикагского университета и Института Санта-Фе переосмыслила один из ключевых вопросов в области искусственного интеллекта : почему большие языковые модели всё лучше справляются...

Внутри разных ИИ-моделей находят все больше совпадений, будто они тайно учатся одной и той же картине реальности. Прочитали историю про собак и потом без труда узнаете пса в парке, даже если он совсем другой породы и ведет себя иначе. У людей есть единое понятие "собака", которое не привязано...

Пока все проектируют умных помощников, компания решила пересобрать «мозги» нейросетей с нуля. Китайская компания DeepSeek представила новую архитектуру для создания моделей искусственного интеллекта , предложив переосмысление ключевых технических принципов, лежащих в основе современных...

За фасадом мгновенных ответов скрывается хаос, требующий долгой уборки. ИИ-ассистенты для программирования уже умеют писать код, запускать тесты и искать баги — всё почти без помощи человека. Но за этим фасадом кроется не волшебство, а сложный механизм, в основе которого — языковые...

«Бросай Python, учи хорей — взломаешь сеть ещё быстрей». Поэзия неожиданно превратилась в инструмент атаки на системы искусственного интеллекта . Новое исследование показало , что нестандартная структура стихов помогает обходить встроенные механизмы безопасности языковых моделей и...

Учёные обнаружили лингвистический барьер, который технологии пока не в силах преодолеть. Исследования искусственного интеллекта продолжают показывать, что даже самые продвинутые системы нередко теряются там, где людям всё кажется очевидным. Очередная работа специалистов из Великобритании и...

Корнеллский университет принимает экстренные меры. В одном из важнейших хранилищ научных препринтов arXiv произошло изменение , которое отражает растущее беспокойство исследовательского сообщества по поводу неконтролируемого использования генеративных ИИ-моделей . Платформа, управляемая...

Для манипуляции многомиллиардной индустрией теперь нужны минимальные ресурсы. Злоумышленникам может быть гораздо проще саботировать обучение нейросетей, чем предполагалось ранее. К такому выводу пришли специалисты Anthropic совместно с Институтом безопасности ИИ Великобритании, Институтом...

Как ежедневные переписки с ИИ превращают пользователей в неисправимых нарциссов. Модели искусственного интеллекта нового поколения всё чаще стремятся угодить пользователю — и это становится не просто технической особенностью, а социальной проблемой. Команды Стэнфордского и...

Этот суперкомпьютер создавали для атомных расчётов. Но он только что взорвал индустрию ИИ. Швейцария представила первую пару полностью открытых больших языковых моделей (LLM), созданных на суперкомпьютере Alps — одной из самых мощных вычислительных машин в Европе и в мире. Эти модели...

Helix: добро пожаловать в эпоху без тормозов и амнезии. Чтобы виртуальный ассистент не зависал при чтении многотомной энциклопедии, нужно не только мощное железо, но и подход, позволяющий быстро обрабатывать огромные объемы данных. Именно над этим работает NVIDIA : компания недавно...

Он должен был защищать, но стал помощником для преступлений. Разработчики из Intel, Университета штата Айдахо и Иллинойсского университета в Урбана-Шампейн представили новую методику взлома языковых моделей, которая позволяет обойти даже самые продвинутые механизмы защиты. Их метод...

Открытый бой без масок: кто из LLM оказался ближе к настоящему учёному? Allen Institute представил SciArena — открытую платформу для оценки качества ответов больших языковых моделей (LLM) в научных задачах. Проект ориентирован на сравнение моделей в условиях, приближенных к реальному...

TokenBreak — атака, которая превращает каждое слово в троян для искусственного интеллекта. Исследователи из компании HiddenLayer представили новую атаку на языковые модели, которая способна обходить встроенные системы модерации и фильтрации всего с помощью одного символа. Приём получил...

Pangu - архитектура, где каждый винтик работает на идею. Команда исследователей, работающая над крупной языковой моделью (LLM) Huawei под названием Pangu, представила новую архитектуру , которая, по их словам, способна превзойти подход, ранее применённый в модели DeepSeek. Ключевой акцент —...

Он был мемом, стал демо-версией будущего. Разработчик и энтузиаст старых интерфейсов Felix Rieseberg представил обновлённую версию Clippy — настольного приложения , позволяющего запускать языковые модели прямо на компьютере в интерфейсе, вдохновлённом эпохой Windows 98. Версия 0.4.1...

Инструмент debug-gym удваивает успех моделей, но до человека ещё далеко. Искусственный интеллект активно внедряется в сферу разработки программного обеспечения, и вряд ли найдётся другая область, где его используют столь широко. От генерации кода по описанию в духе «настроения» до GitHub...

ИИ прошёл тест на человечность впервые за 75 лет. Исследователи из Калифорнийского университета в Сан-Диего провели масштабное тестирование, в результате которого две современные языковые модели — GPT-4.5 и LLaMa-3.1-405B — успешно прошли классический тест Тьюринга, обманув людей и заставив...

Anthropic доказала способность ИИ менять роли и скрывать цели. Компания Anthropic опубликовала новое исследование под названием «Аудит языковых моделей на предмет скрытых целей» , демонстрирующее, как специально обученные языковые модели могут скрывать определённые «мотивации» от систем...

Модели ИИ застревают в собственных мыслях — и это дорого. Современные языковые модели искусственного интеллекта демонстрируют всё большую способность к рассуждению, но это же качество приводит к неожиданной проблеме — «параличу анализа». Исследовани е, проведённое учёными из Калифорнийского...

Небольшие ошибки в дообучении могут привести к масштабным сбоям. Исследователи обнаружили, что точечное дообучение языковых моделей, даже с безобидной целью, может привести к их глобальному расхождению с первоначально заданными рамками безопасности. Эксперимент показал, что модели...