«ИИ решил» и «чат-бот знает»: почему учёные призывают перестать очеловечивать нейросети

Международная группа учёных под руководством профессора английского языка Джо Мацкевич и специалиста по деловой коммуникации Жанин Оун из Университета Айовы опубликовала в журнале Technical Communication Quarterly статью, в которой предупреждает о рисках «антропоморфизации» искусственного интеллекта. В исследовании также участвовали лингвист Мэттью Бейкер (Университет Бригама Янга) и филолог Джордан Смит (Университет Северного Колорадо).

Учёные проанализировали огромную базу новостей News on the Web, содержащую более 20 миллиардов слов из англоязычных публикаций 20 стран. Их интересовало, как часто рядом со словами «искусственный интеллект» и «ChatGPT» встречаются глаголы, обычно описывающие сознательную человеческую деятельность: «знает», «понимает», «усваивает», «нуждается», «считает».

Оказалось, что в новостных текстах очеловечивание происходит не так часто, как можно было ожидать. Например, словосочетание «ChatGPT знает» встретилось всего 32 раза. Однако глагол «нуждается» соседствовал с ИИ в 661 случае, что эксперты назвали одним из самых высоких показателей. Но главная проблема, по мнению исследователей, не в отдельных словах, а в общем контексте и скрытых смыслах. Когда журналист пишет «нейросеть решила уволить сотрудников», у читателя создаётся иллюзия, будто программа обладает собственной волей. На самом же деле, решения принимают люди, а искусственный интеллект лишь обрабатывает данные и помогает их подготовить.

Авторы работы подчёркивают, что подобная манера речи опасна по двум причинам. Во-первых, она приписывает вычислительным системам намерения и чувства, которых у них нет. Любая нейросеть — это статистическая модель, которая подбирает ответы на основе заложенных разработчиками закономерностей. Она не «хочет» и не «считает». Во-вторых, очеловечивание ИИ может привести к серьёзным последствиям в таких сферах, как медицина, кредитование и судопроизводство. Если алгоритм даст ошибочный прогноз, а люди, поверив в его «разумность», отнесутся к нему как к авторитетному мнению, это может стоить здоровья, денег или свободы. С другой стороны, сбои системы могут восприниматься как злой умысел, что тоже неверно.

Особую важность точность формулировок имеет для технической документации и отраслей, где ошибки фатальны. Исследователи рекомендуют журналистам, рекламщикам и авторам инструкций избегать антропоморфных оборотов и говорить об искусственном интеллекте как об инструменте, а не как о личности. «ИИ предоставил расчёт», «алгоритм выдал прогноз», «система обнаружила аномалию» — такие формулировки гораздо точнее отражают суть происходящего и не вводят в заблуждение.

Ранее ученые заявили, что кальмарам и каракатицам удалось пережить массовое вымирание. Археологи нашли в Китае метеоритный топор возрастом более 3000 лет.