- 27,061
- 46
- 8 Ноя 2022
Папа римский и один из создателей Anthropic поспорили о том, чувствуют ли машины.
Спор о разумности ИИ дошел до Ватикана и быстро вышел за рамки богословия. Папа Лев XIV в энциклике Magnifica Humanitas предупредил, что машинный интеллект нельзя приравнивать к человеческому, а один из основателей Anthropic Крис Ола попытался объяснить, почему внутри современных моделей остаются вопросы, на которые разработчики пока не умеют отвечать до конца.
Magnifica Humanitas стала первой энцикликой Льва XIV и посвящена положению человека в эпоху искусственного интеллекта. Документ опубликован 25 мая 2026 года, подпись папы стоит датой 15 мая, к 135-летию Rerum Novarum Льва XIII. Ватикан отдельно подчеркивает, что технологии должны служить человеческому достоинству, общему благу и миру, а не логике власти, исключения и войны.
В тексте энциклики папа пишет, что так называемые искусственные интеллекты не получают собственного опыта, не имеют тела, не чувствуют радость или боль, не взрослеют через отношения и не знают изнутри, что значат любовь, труд, дружба или ответственность. Машины могут имитировать язык, поведение, аналитические навыки, эмпатию и понимание, но не понимают смысл созданного, потому что лишены человеческого эмоционального, социального и духовного опыта.
Крис Ола , сооснователь Anthropic и руководитель исследований интерпретируемости ИИ, выступил на презентации энциклики в Ватикане. Ола согласился, что ИИ нельзя описывать как холодных вычислительных роботов, и заявил, что модели создаются из человеческих слов и во многом остаются загадочными даже для специалистов, которые обучают подобные системы.
Самая спорная часть выступления касалась внутреннего устройства моделей. Ола заявил, что команда Anthropic находит структуры, похожие на результаты исследований человеческого мозга, признаки интроспекции и внутренние состояния, которые функционально напоминают радость, удовлетворение, страх, горе и тревогу. При этом исследователь признал, что пока не знает, как именно нужно трактовать подобные наблюдения.
Именно формулировки про машинную радость и тревогу вызвали резкую критику. The Register считает , что Anthropic слишком легко переносит человеческие слова на статистические системы и тем самым подталкивает аудиторию к опасной антропоморфизации ИИ. Нейросети действительно строятся по мотивам биологических нейронных сетей, но сходство в названии и отдельных механизмах не превращает модель в живое существо.
Критика также касается слова «наследие», которым Ола описал огромный массив человеческих мыслей и речи, использованный при обучении моделей. The Register указывает, что крупные ИИ-компании не просто получили данные в наследство, а собрали огромные корпуса текстов, часто без прямого согласия авторов. Из-за обучающих данных Anthropic и другие разработчики ИИ уже фигурируют в многочисленных судебных спорах .
Отдельный вопрос связан с прозрачностью. Если модели остаются черными ящиками, разработчики должны объяснять ограничения технологии, а не заменять техническую неопределенность разговорами о почти человеческих состояниях. Пользователи уже склонны воспринимать чат-ботов как собеседников, а не как инструменты, которые генерируют текст, ошибаются и уверенно выдают неверные ответы.
Позиция Ватикана в данном споре звучит жестче и проще: искусственный интеллект может помогать человеку, но не обладает человеческим опытом, моральной ответственностью и внутренней жизнью. Для индустрии такая формулировка неудобна, потому что многие продукты продаются через образ почти разумного помощника. Для пользователей разница принципиальна: Claude, ChatGPT и другие модели полезны ровно до тех пор, пока человек помнит, что перед ним программа, а не сознание.
Спор о разумности ИИ дошел до Ватикана и быстро вышел за рамки богословия. Папа Лев XIV в энциклике Magnifica Humanitas предупредил, что машинный интеллект нельзя приравнивать к человеческому, а один из основателей Anthropic Крис Ола попытался объяснить, почему внутри современных моделей остаются вопросы, на которые разработчики пока не умеют отвечать до конца.
Magnifica Humanitas стала первой энцикликой Льва XIV и посвящена положению человека в эпоху искусственного интеллекта. Документ опубликован 25 мая 2026 года, подпись папы стоит датой 15 мая, к 135-летию Rerum Novarum Льва XIII. Ватикан отдельно подчеркивает, что технологии должны служить человеческому достоинству, общему благу и миру, а не логике власти, исключения и войны.
В тексте энциклики папа пишет, что так называемые искусственные интеллекты не получают собственного опыта, не имеют тела, не чувствуют радость или боль, не взрослеют через отношения и не знают изнутри, что значат любовь, труд, дружба или ответственность. Машины могут имитировать язык, поведение, аналитические навыки, эмпатию и понимание, но не понимают смысл созданного, потому что лишены человеческого эмоционального, социального и духовного опыта.
Крис Ола , сооснователь Anthropic и руководитель исследований интерпретируемости ИИ, выступил на презентации энциклики в Ватикане. Ола согласился, что ИИ нельзя описывать как холодных вычислительных роботов, и заявил, что модели создаются из человеческих слов и во многом остаются загадочными даже для специалистов, которые обучают подобные системы.
Самая спорная часть выступления касалась внутреннего устройства моделей. Ола заявил, что команда Anthropic находит структуры, похожие на результаты исследований человеческого мозга, признаки интроспекции и внутренние состояния, которые функционально напоминают радость, удовлетворение, страх, горе и тревогу. При этом исследователь признал, что пока не знает, как именно нужно трактовать подобные наблюдения.
Именно формулировки про машинную радость и тревогу вызвали резкую критику. The Register считает , что Anthropic слишком легко переносит человеческие слова на статистические системы и тем самым подталкивает аудиторию к опасной антропоморфизации ИИ. Нейросети действительно строятся по мотивам биологических нейронных сетей, но сходство в названии и отдельных механизмах не превращает модель в живое существо.
Критика также касается слова «наследие», которым Ола описал огромный массив человеческих мыслей и речи, использованный при обучении моделей. The Register указывает, что крупные ИИ-компании не просто получили данные в наследство, а собрали огромные корпуса текстов, часто без прямого согласия авторов. Из-за обучающих данных Anthropic и другие разработчики ИИ уже фигурируют в многочисленных судебных спорах .
Отдельный вопрос связан с прозрачностью. Если модели остаются черными ящиками, разработчики должны объяснять ограничения технологии, а не заменять техническую неопределенность разговорами о почти человеческих состояниях. Пользователи уже склонны воспринимать чат-ботов как собеседников, а не как инструменты, которые генерируют текст, ошибаются и уверенно выдают неверные ответы.
Позиция Ватикана в данном споре звучит жестче и проще: искусственный интеллект может помогать человеку, но не обладает человеческим опытом, моральной ответственностью и внутренней жизнью. Для индустрии такая формулировка неудобна, потому что многие продукты продаются через образ почти разумного помощника. Для пользователей разница принципиальна: Claude, ChatGPT и другие модели полезны ровно до тех пор, пока человек помнит, что перед ним программа, а не сознание.
- Источник новости
- www.securitylab.ru
