языковые модели

Внутри разных ИИ-моделей находят все больше совпадений, будто они тайно учатся одной и той же картине реальности. Прочитали историю про собак и потом без труда узнаете пса в парке, даже если он совсем другой породы и ведет себя иначе. У людей есть единое понятие "собака", которое не привязано...

Пока все проектируют умных помощников, компания решила пересобрать «мозги» нейросетей с нуля. Китайская компания DeepSeek представила новую архитектуру для создания моделей искусственного интеллекта , предложив переосмысление ключевых технических принципов, лежащих в основе современных...

За фасадом мгновенных ответов скрывается хаос, требующий долгой уборки. ИИ-ассистенты для программирования уже умеют писать код, запускать тесты и искать баги — всё почти без помощи человека. Но за этим фасадом кроется не волшебство, а сложный механизм, в основе которого — языковые...

«Бросай Python, учи хорей — взломаешь сеть ещё быстрей». Поэзия неожиданно превратилась в инструмент атаки на системы искусственного интеллекта . Новое исследование показало , что нестандартная структура стихов помогает обходить встроенные механизмы безопасности языковых моделей и...

Учёные обнаружили лингвистический барьер, который технологии пока не в силах преодолеть. Исследования искусственного интеллекта продолжают показывать, что даже самые продвинутые системы нередко теряются там, где людям всё кажется очевидным. Очередная работа специалистов из Великобритании и...

Корнеллский университет принимает экстренные меры. В одном из важнейших хранилищ научных препринтов arXiv произошло изменение , которое отражает растущее беспокойство исследовательского сообщества по поводу неконтролируемого использования генеративных ИИ-моделей . Платформа, управляемая...

Для манипуляции многомиллиардной индустрией теперь нужны минимальные ресурсы. Злоумышленникам может быть гораздо проще саботировать обучение нейросетей, чем предполагалось ранее. К такому выводу пришли специалисты Anthropic совместно с Институтом безопасности ИИ Великобритании, Институтом...

Как ежедневные переписки с ИИ превращают пользователей в неисправимых нарциссов. Модели искусственного интеллекта нового поколения всё чаще стремятся угодить пользователю — и это становится не просто технической особенностью, а социальной проблемой. Команды Стэнфордского и...

Этот суперкомпьютер создавали для атомных расчётов. Но он только что взорвал индустрию ИИ. Швейцария представила первую пару полностью открытых больших языковых моделей (LLM), созданных на суперкомпьютере Alps — одной из самых мощных вычислительных машин в Европе и в мире. Эти модели...

Helix: добро пожаловать в эпоху без тормозов и амнезии. Чтобы виртуальный ассистент не зависал при чтении многотомной энциклопедии, нужно не только мощное железо, но и подход, позволяющий быстро обрабатывать огромные объемы данных. Именно над этим работает NVIDIA : компания недавно...

Он должен был защищать, но стал помощником для преступлений. Разработчики из Intel, Университета штата Айдахо и Иллинойсского университета в Урбана-Шампейн представили новую методику взлома языковых моделей, которая позволяет обойти даже самые продвинутые механизмы защиты. Их метод...

Открытый бой без масок: кто из LLM оказался ближе к настоящему учёному? Allen Institute представил SciArena — открытую платформу для оценки качества ответов больших языковых моделей (LLM) в научных задачах. Проект ориентирован на сравнение моделей в условиях, приближенных к реальному...

TokenBreak — атака, которая превращает каждое слово в троян для искусственного интеллекта. Исследователи из компании HiddenLayer представили новую атаку на языковые модели, которая способна обходить встроенные системы модерации и фильтрации всего с помощью одного символа. Приём получил...

Pangu - архитектура, где каждый винтик работает на идею. Команда исследователей, работающая над крупной языковой моделью (LLM) Huawei под названием Pangu, представила новую архитектуру , которая, по их словам, способна превзойти подход, ранее применённый в модели DeepSeek. Ключевой акцент —...

Он был мемом, стал демо-версией будущего. Разработчик и энтузиаст старых интерфейсов Felix Rieseberg представил обновлённую версию Clippy — настольного приложения , позволяющего запускать языковые модели прямо на компьютере в интерфейсе, вдохновлённом эпохой Windows 98. Версия 0.4.1...

Инструмент debug-gym удваивает успех моделей, но до человека ещё далеко. Искусственный интеллект активно внедряется в сферу разработки программного обеспечения, и вряд ли найдётся другая область, где его используют столь широко. От генерации кода по описанию в духе «настроения» до GitHub...

ИИ прошёл тест на человечность впервые за 75 лет. Исследователи из Калифорнийского университета в Сан-Диего провели масштабное тестирование, в результате которого две современные языковые модели — GPT-4.5 и LLaMa-3.1-405B — успешно прошли классический тест Тьюринга, обманув людей и заставив...

Anthropic доказала способность ИИ менять роли и скрывать цели. Компания Anthropic опубликовала новое исследование под названием «Аудит языковых моделей на предмет скрытых целей» , демонстрирующее, как специально обученные языковые модели могут скрывать определённые «мотивации» от систем...

Модели ИИ застревают в собственных мыслях — и это дорого. Современные языковые модели искусственного интеллекта демонстрируют всё большую способность к рассуждению, но это же качество приводит к неожиданной проблеме — «параличу анализа». Исследовани е, проведённое учёными из Калифорнийского...

Небольшие ошибки в дообучении могут привести к масштабным сбоям. Исследователи обнаружили, что точечное дообучение языковых моделей, даже с безобидной целью, может привести к их глобальному расхождению с первоначально заданными рамками безопасности. Эксперимент показал, что модели...

Уязвимости языковых моделей усиливают риски и создают новые проблемы. Эксперты Microsoft исследовали безопасность более 100 продуктов компании с использованием генеративного ИИ и пришли к выводу: модели усиливают уже существующие риски и создают новые. Исследование описано в статье Lessons...

SLM применяет метод Монте-Карло для сложных задач. Исследователи Microsoft Asia представили небольшую языковую модель (SLM) для решения математических задач. В статье , опубликованной на сервере препринтов arXiv, команда описала технологию и математические подходы, лежащие в основе этой...

Почему безопасность популярных ИИ-платформ оставляет желать лучшего? В чат-боте DeepSeek была обнаружена уязвимость, которая позволяла злоумышленникам захватывать учётные записи пользователей через атаку с использованием внедрения запросов. Исследователь безопасности Йоханн Рехбергер выявил...

Математики приручают черные ящики ИИ. В современной науке и бизнесе все чаще используют сложные алгоритмы искусственного интеллекта для предсказания будущих событий - от успеваемости студентов до результатов выборов. Однако возникает серьезная проблема: эти алгоритмы настолько сложны, что...

Компания выпустила две научные статьи с самыми перспективными разработками. Apple , которую часто обвиняют в отставании по части искусственного интеллекта, на самом деле ведет активную работу над прорывами в этой области. При этом компания предпочитает не афишировать свои разработки, чтобы...