языковые модели

Для манипуляции многомиллиардной индустрией теперь нужны минимальные ресурсы. Злоумышленникам может быть гораздо проще саботировать обучение нейросетей, чем предполагалось ранее. К такому выводу пришли специалисты Anthropic совместно с Институтом безопасности ИИ Великобритании, Институтом...

Как ежедневные переписки с ИИ превращают пользователей в неисправимых нарциссов. Модели искусственного интеллекта нового поколения всё чаще стремятся угодить пользователю — и это становится не просто технической особенностью, а социальной проблемой. Команды Стэнфордского и...

Этот суперкомпьютер создавали для атомных расчётов. Но он только что взорвал индустрию ИИ. Швейцария представила первую пару полностью открытых больших языковых моделей (LLM), созданных на суперкомпьютере Alps — одной из самых мощных вычислительных машин в Европе и в мире. Эти модели...

Helix: добро пожаловать в эпоху без тормозов и амнезии. Чтобы виртуальный ассистент не зависал при чтении многотомной энциклопедии, нужно не только мощное железо, но и подход, позволяющий быстро обрабатывать огромные объемы данных. Именно над этим работает NVIDIA : компания недавно...

Он должен был защищать, но стал помощником для преступлений. Разработчики из Intel, Университета штата Айдахо и Иллинойсского университета в Урбана-Шампейн представили новую методику взлома языковых моделей, которая позволяет обойти даже самые продвинутые механизмы защиты. Их метод...

Открытый бой без масок: кто из LLM оказался ближе к настоящему учёному? Allen Institute представил SciArena — открытую платформу для оценки качества ответов больших языковых моделей (LLM) в научных задачах. Проект ориентирован на сравнение моделей в условиях, приближенных к реальному...

TokenBreak — атака, которая превращает каждое слово в троян для искусственного интеллекта. Исследователи из компании HiddenLayer представили новую атаку на языковые модели, которая способна обходить встроенные системы модерации и фильтрации всего с помощью одного символа. Приём получил...

Pangu - архитектура, где каждый винтик работает на идею. Команда исследователей, работающая над крупной языковой моделью (LLM) Huawei под названием Pangu, представила новую архитектуру , которая, по их словам, способна превзойти подход, ранее применённый в модели DeepSeek. Ключевой акцент —...

Он был мемом, стал демо-версией будущего. Разработчик и энтузиаст старых интерфейсов Felix Rieseberg представил обновлённую версию Clippy — настольного приложения , позволяющего запускать языковые модели прямо на компьютере в интерфейсе, вдохновлённом эпохой Windows 98. Версия 0.4.1...

Инструмент debug-gym удваивает успех моделей, но до человека ещё далеко. Искусственный интеллект активно внедряется в сферу разработки программного обеспечения, и вряд ли найдётся другая область, где его используют столь широко. От генерации кода по описанию в духе «настроения» до GitHub...

ИИ прошёл тест на человечность впервые за 75 лет. Исследователи из Калифорнийского университета в Сан-Диего провели масштабное тестирование, в результате которого две современные языковые модели — GPT-4.5 и LLaMa-3.1-405B — успешно прошли классический тест Тьюринга, обманув людей и заставив...

Anthropic доказала способность ИИ менять роли и скрывать цели. Компания Anthropic опубликовала новое исследование под названием «Аудит языковых моделей на предмет скрытых целей» , демонстрирующее, как специально обученные языковые модели могут скрывать определённые «мотивации» от систем...

Модели ИИ застревают в собственных мыслях — и это дорого. Современные языковые модели искусственного интеллекта демонстрируют всё большую способность к рассуждению, но это же качество приводит к неожиданной проблеме — «параличу анализа». Исследовани е, проведённое учёными из Калифорнийского...

Небольшие ошибки в дообучении могут привести к масштабным сбоям. Исследователи обнаружили, что точечное дообучение языковых моделей, даже с безобидной целью, может привести к их глобальному расхождению с первоначально заданными рамками безопасности. Эксперимент показал, что модели...

Уязвимости языковых моделей усиливают риски и создают новые проблемы. Эксперты Microsoft исследовали безопасность более 100 продуктов компании с использованием генеративного ИИ и пришли к выводу: модели усиливают уже существующие риски и создают новые. Исследование описано в статье Lessons...

SLM применяет метод Монте-Карло для сложных задач. Исследователи Microsoft Asia представили небольшую языковую модель (SLM) для решения математических задач. В статье , опубликованной на сервере препринтов arXiv, команда описала технологию и математические подходы, лежащие в основе этой...

Почему безопасность популярных ИИ-платформ оставляет желать лучшего? В чат-боте DeepSeek была обнаружена уязвимость, которая позволяла злоумышленникам захватывать учётные записи пользователей через атаку с использованием внедрения запросов. Исследователь безопасности Йоханн Рехбергер выявил...

Математики приручают черные ящики ИИ. В современной науке и бизнесе все чаще используют сложные алгоритмы искусственного интеллекта для предсказания будущих событий - от успеваемости студентов до результатов выборов. Однако возникает серьезная проблема: эти алгоритмы настолько сложны, что...

Компания выпустила две научные статьи с самыми перспективными разработками. Apple , которую часто обвиняют в отставании по части искусственного интеллекта, на самом деле ведет активную работу над прорывами в этой области. При этом компания предпочитает не афишировать свои разработки, чтобы...

Способен ли ИИ подорвать научный прогресс? Исследование Оксфордского университета поднимает тревожный вопрос об использовании искусственного интеллекта в научных исследованиях, предупреждая о риске галлюцинаций ИИ, которые могут привести к распространению ложной или предвзятой информации...

Инструмент Woodpecker предлагает новый подход к "воспитанию" нейросетей. Исследователи из Университета науки и технологий Китая (USTC) в сотрудничестве с лабораторией Tencent YouTu Lab разработали фреймворк под названием Woodpecker (досл. — дятел) для коррекции так называемых...

Чат-боты не падут под хакерским гнетом. Открытый всемирный проект по безопасности приложений (The Open Worldwide Application Security Project, OWASP) опубликовал рейтинг наиболее распространенных уязвимостей в чат-ботах на основе больших языковых моделей (LLM): ChatGPT , BERT и GPT-3. Цель —...

Исследователи обнаружили, что система искусственного интеллекта Nvidia может быть обманута простой заменой буквы в запросе. Исследователи обнаружили потенциальную уязвимость в программном обеспечении искусственного интеллекта (AI) Nvidia , которая может привести к нарушению безопасности и...

Эксперты опровергают технологический прорыв, связанный с появлением нейросетей. Учёные Стэнфордского университета в своей работе заявили, что большие языковые модели пока рано считать «гигантским скачком возможностей». По словам экспертов, развивающиеся способности искусственного интеллекта —...

Эксперты предупреждают о дискриминации и ложной информации. Microsoft и Epic Systems, один из ведущих разработчиков программного обеспечения для здравоохранения, объявили о партнерстве по внедрению генеративной модели GPT-4 от OpenAI для улучшения сервисов в здравоохранении. Чат-бот на...