- 22,457
- 46
- 8 Ноя 2022
Миллиарды долларов инвестиций бессильны против секундной стрелки — ChatGPT уверенно врёт вам прямо в лицо.
Онлайн-ассистенты на базе ИИ давно подаются как универсальные помощники, но даже у одного из самых популярных сервисов — ChatGPT — по-прежнему остаются проблемы с самой простой задачей: определением текущего времени. Об этом рассказывает материал издания The Verge, где собраны примеры странного поведения чат-бота и жалобы пользователей.
Автор статьи Элисса Велле описывает, что ответы ChatGPT на вопрос о времени непредсказуемы: сервис то прямо пишет, что не видит системные часы и может назвать только дату, то пытается вывести время по часовому поясу и ошибается, то успешно попадает в нужные минуты, а вскоре снова даёт неверные данные. Подобные случаи регулярно обсуждаются на Reddit и официальном форуме чат-бота.
Технически вывести точное время для компьютера или смартфона не представляет сложности, однако генеративные модели вроде ChatGPT, Gemini или Claude устроены иначе. По умолчанию такие системы работают только с текстом и опираются на обучающие данные, без постоянного доступа к часам или другим источникам обновляющейся информации, если специально не запрашивать интернет или внешние сервисы.
Специалист по робототехнике Ерванд Кулбашян, на которого ссылается The Verge, объясняет, что языковая модель существует в собственном «пространстве слов» и оперирует лишь тем, что туда попадает, как человек на острове среди книжных полок, но без часов. При этом подключить чат-бот к системным часам всё же возможно.
В материале приводится пример настольного приложения ChatGPT, которое при включённой функции поиска определяет время через данные компьютера и интернет. Паскуале Минервини и представительница OpenAI Тая Кристиансен отмечают, что при таком доступе сервис без труда сообщает точные часы и минуты в запрошенной локации.
Дополнительную проблему, по словам Кулбашяна, создают ограничения контекстного окна — объёма данных, который модель может «удерживать в голове» в рамках диалога. Каждый запрос к часам добавляет в контекстном окне новое значение, вытесняя более полезные фрагменты и создавая шум. Дату же, в отличие от минут и секунд, достаточно один раз зафиксировать в системных настройках сессии.
Авторы материала указывают, что доступны обходные варианты: прямой запрос на поиск времени через сеть, использование альтернативных чат-ботов, автоматически обращающихся к интернету, или протоколов, связывающих ИИ-приложения с пользовательскими данными. Минервини при этом напоминает о рисках веб-поиска , включая вредоносные подсказки, встроенные в страницы.
По оценке Минервини, затруднения с часами — лишь часть более общей проблемы. Модели всё ещё плохо считывают время по фотографиям аналоговых часов и нередко ошибаются при работе с календарями. Куда заметнее другое: системы вроде ChatGPT пока не всегда ясно обозначают границы своих возможностей, из-за чего уверенные ответы о времени оказываются особенно обманчивыми.
Онлайн-ассистенты на базе ИИ давно подаются как универсальные помощники, но даже у одного из самых популярных сервисов — ChatGPT — по-прежнему остаются проблемы с самой простой задачей: определением текущего времени. Об этом рассказывает материал издания The Verge, где собраны примеры странного поведения чат-бота и жалобы пользователей.
Автор статьи Элисса Велле описывает, что ответы ChatGPT на вопрос о времени непредсказуемы: сервис то прямо пишет, что не видит системные часы и может назвать только дату, то пытается вывести время по часовому поясу и ошибается, то успешно попадает в нужные минуты, а вскоре снова даёт неверные данные. Подобные случаи регулярно обсуждаются на Reddit и официальном форуме чат-бота.
Технически вывести точное время для компьютера или смартфона не представляет сложности, однако генеративные модели вроде ChatGPT, Gemini или Claude устроены иначе. По умолчанию такие системы работают только с текстом и опираются на обучающие данные, без постоянного доступа к часам или другим источникам обновляющейся информации, если специально не запрашивать интернет или внешние сервисы.
Специалист по робототехнике Ерванд Кулбашян, на которого ссылается The Verge, объясняет, что языковая модель существует в собственном «пространстве слов» и оперирует лишь тем, что туда попадает, как человек на острове среди книжных полок, но без часов. При этом подключить чат-бот к системным часам всё же возможно.
В материале приводится пример настольного приложения ChatGPT, которое при включённой функции поиска определяет время через данные компьютера и интернет. Паскуале Минервини и представительница OpenAI Тая Кристиансен отмечают, что при таком доступе сервис без труда сообщает точные часы и минуты в запрошенной локации.
Дополнительную проблему, по словам Кулбашяна, создают ограничения контекстного окна — объёма данных, который модель может «удерживать в голове» в рамках диалога. Каждый запрос к часам добавляет в контекстном окне новое значение, вытесняя более полезные фрагменты и создавая шум. Дату же, в отличие от минут и секунд, достаточно один раз зафиксировать в системных настройках сессии.
Авторы материала указывают, что доступны обходные варианты: прямой запрос на поиск времени через сеть, использование альтернативных чат-ботов, автоматически обращающихся к интернету, или протоколов, связывающих ИИ-приложения с пользовательскими данными. Минервини при этом напоминает о рисках веб-поиска , включая вредоносные подсказки, встроенные в страницы.
По оценке Минервини, затруднения с часами — лишь часть более общей проблемы. Модели всё ещё плохо считывают время по фотографиям аналоговых часов и нередко ошибаются при работе с календарями. Куда заметнее другое: системы вроде ChatGPT пока не всегда ясно обозначают границы своих возможностей, из-за чего уверенные ответы о времени оказываются особенно обманчивыми.
- Источник новости
- www.securitylab.ru
