llm

Чтобы стать хакером, нужно думать как хакер. Разработчик мошеннического чат-бота FraudGPT активно прорабатывает усовершенствованные инструменты, использующие генеративные модели ИИ и технологии чат-бота Google Bard. Одно из новых разработок – модель большая языковая модель (Large Language...

Учёные выявили универсальный метод атаки, стирающий этические границы у всех популярных языковых моделей. Исследователи из Школы компьютерных наук Университета Карнеги-Меллона, Института кибербезопасности и конфиденциальности CyLab, а также Центра безопасного ИИ в Сан-Франциско совместно...

Компании боятся потери доходов из-за ИИ. Ведущие новостные издания недовольны тем, что их оригинальный контент используется компаниями-разработчиками ИИ для обучения генеративных ИИ-моделей. New York Times, News Corp , Axel Springer, IAC и другие компании формируют коалицию, чтобы...

Учёные оценили влияние ChatGPT на цифровую криминалистику. Исследователи в области кибербезопасности из нескольких университетов оценили влияние ChatGPT , особенно GPT-4 , на цифровую криминалистику. Быстрый прогресс в разработке больших языковых моделей (Large Language Model, LLM )...

Хакеры уже нашли способы, как можно манипулировать ИИ для кражи личных данных и паролей. Исследователи Google выявили 6 основных типов атак на системы искусственного интеллекта, включая манипуляции с большими языковыми моделями (Large Language Model, LLM ), используемыми, например, в...

Неужели эпоха нейросетей закончится, не успев начаться? В минувший вторник исследователи из Стэнфордского университета и Калифорнийского университета в Беркли опубликовали совместную научную работу, в которой утверждается, что ответы модели GPT-4 меняются с течением времени. Эта работа...

Почему детекторы генеративного текста до сих пор не способны точно выполнить поставленную задачу? Как определить, написан ли текст человеком или искусственным интеллектом? Этот вопрос становится всё более актуальным в свете развития технологий генерации текста, которые могут создавать...

Смогут ли ChatGPT и Bing противостоять техногиганту с собственной языковой моделью? Google представила масштабное обновление для своего чат-бота с искусственным интеллектом Bard , работающего на собственной LLM -модели компании под названием LaMDA . «Корпорация добра» существенно...

Оказалось, что научить модель врать людям очень легко. Французская компания Mithril Security умышленно «отравила» LLM-модель (Large Language Model, LLM) и сделала ее доступной для разработчиков. Такая мера была предпринята для того, чтобы подчеркнуть значимость проблемы дезинформации в сфере...

Может ли искусственный интеллект мыслить, как человек, или его способности сильно ограничены? искусственный интеллект общего назначения ( AGI ) — это горячая тема, которая вызывает споры между учёными, бизнесменами и общественностью. Некоторые утверждают, что мы близки к созданию системы...

Какой ценой допустимо продвигать инновации, и не пожалеет ли компания о своём решении? Компания Meta в этом году сделала открытым исходный код своей большой языковой модели ( LLM ) под названием LLaMA. Это мощный искусственный интеллект , который может генерировать тексты на разные темы...

Новая разработка DeepMind обладает широким спектром навыков и способна самосовершенствоваться. Исследователи DeepMind научили роботов с поражающей скоростью осваивать новые навыки. Об этом представители компании сообщили в статье, опубликованной на arXiv . Они разработали ИИ под...

Большие языковые модели существенно снижают входной порог в биотехнологическую сферу. Сфера биотехнологий требует сложного оборудования и высокой квалификации специалистов, что сильно ограничивает возможности по её использованию простыми обывателями. Однако недавнее исследование показало, что...

Эксперты рассказали, как хакеры используют ИИ для создания фишинговых писем, и как ИИ защитит от фишинга. Фишинговые атаки, которые в прошлом году стали самым распространенным способом вымогательства денег у организаций, становятся все сложнее обнаружить. По данным ИБ-компании Abnormal...

Как хитрят наёмные работники краудсорсинговых сервисов и почему это плохо для развития ИИ? Большинство людей воспринимает работу чат-ботов и нейросетей на основе ИИ практически за магию. Многие из тех, кто регулярно взаимодействует с искусственным интеллектом, наверняка слышали, что для...

Журнал ослабил свою позицию в отношении текстовой генерации, но вот визуальной это никак не коснулось – почему? В прошлую среду, 7 июня, журнал Nature официально объявил , что он не будет публиковать статьи и исследования, которые содержат изображения или видео, созданные при помощи...

Станут ли отчаявшиеся люди доверять вопросы своего здоровья бездушной машине? Национальная ассоциация по расстройствам питания ( NEDA ) — крупнейшая некоммерческая организация в США, посвященная проблеме расстройства пищевого поведения ( РПП ), решила заменить работников психологической...

Теперь никто не уйдёт от цифрового правосудия! Тёмная сеть (dark web) — это часть Интернета, которая скрыта от обычных пользователей и доступна только через специальные анонимизирующие программы, такие как Tor . В тёмной сети происходят различные незаконные действия, такие как продажа...

ВОЗ поддерживает развитие ИИ в здравоохранении, но выделила несколько проблем такой технологии. Всемирная организация здравоохранения (ВОЗ) обратилась к разработчикам и пользователям искусственного интеллекта (ИИ) с призывом соблюдать меры предосторожности при использовании инструментов...

Стоит ли ограничивать прогресс, чтобы угодить правообладателям? Искусственный интеллект вызывает интерес и страх у многих людей. Некоторые боятся, что ИИ сможет перехитрить человечество и угрожать его существованию, как это показывают в популярных научно-фантастических фильмах. Однако такой...

Сообщество энтузиастов AI Village совместно с правительством США готовит нечто интересное… Белый дом США объявил о необычном сотрудничестве между ведущими разработчиками искусственного интеллекта, включая OpenAI, Google, Antrhopic, Hugging Face, Microsoft, Nvidia и Stability AI. Все они...

Пойдут ли голливудские студии навстречу авторам или продолжат гнуть свою линию? В США существуют разнообразные «гильдии» в тех или иных профессиональных областях. По-нашему, профсоюзы, в которые объединяются работники, преследуя различные цели. Несколько дней назад гильдия сценаристов Америки...

Не грози искусственному интеллекту, попивая сок у себя в квартале. Ученые научились использовать LLM GPT-модели для пассивного чтения человеческих мыслей. Разработанный недавно языковой декодер способен переводить мысли человека в текст с помощью специального ИИ-преобразователя. Прорыв...

Мощь искусственного интеллекта и удобство голосового управления — вот оно, будущее. Каким может быть будущее без смартфона? Humane , компания, основанная бывшими руководителями Apple пять лет назад, наконец представили свой первый продукт, и он определённо не похож на что-либо выпущенное...

Всё больше компаний не хотят мириться с тем, что нейросети бесплатно используют их наборы данных для обучения. OpenAI , Google и прочие компании, ответственные за крупномасштабные проекты в сфере искусственного интеллекта, ничего не заплатили за большую часть своих обучающих данных, открыто...