Исследователи из США предупредили о рисках чрезмерного «очеловечивания» искусственного интеллекта в публичной речи и медиа. Как отмечается в публикации журнала Technical Communication Quarterly, использование формулировок вроде «нейросеть решила» или «ChatGPT знает» может формировать у аудитории ошибочное представление о возможностях алгоритмов.
Читайте: В Госдуме готовят новые запреты: что изменится уже в ближайшее время
Авторами исследования стали профессор английского языка из Университета Айовы Джо Мацкевич, руководитель программы деловой коммуникации Жанин Оун, а также лингвист Мэттью Бейкер из Университета Бригама Янга и филолог Джордан Смит из Университета Северного Колорадо. Специалисты проанализировали, как журналисты и пользователи описывают работу искусственного интеллекта, используя лексику, обычно связанную с человеческим мышлением и поведением.
Ученые подчеркивают, что выражения вроде «ИИ считает» или «чат-бот понимает запрос» создают иллюзию наличия у программы собственных намерений, эмоций и воли. На практике нейросети работают иначе: они лишь подбирают ответы на основе статистических закономерностей и данных, заложенных разработчиками.
Для анализа исследователи использовали базу News on the Web, содержащую более 20 миллиардов слов из англоязычных публикаций в 20 странах. Специалисты проверяли, насколько часто рядом со словами «ИИ» и «ChatGPT» встречаются глаголы и выражения, традиционно относящиеся к живым существам, например «знает», «понимает» или «нуждается».
Результаты показали, что в новостных материалах подобное «одушевление» встречается реже, чем в обычной разговорной речи. Так, сочетание, в котором искусственный интеллект «нуждается» в чем-либо, появлялось 661 раз, тогда как выражение «ChatGPT знает» встретилось только 32 раза. Авторы работы пришли к выводу, что журналистский язык остается более осторожным, однако даже косвенные формулировки могут влиять на восприятие технологий читателями.
Исследователи считают, что особенно важно следить за точностью формулировок в сферах, связанных с высокой ответственностью, включая медицину, судебную систему и кредитование. По их мнению, фразы вроде «нейросеть решила уволить сотрудников» искажают реальную картину, поскольку окончательные решения принимают люди, а алгоритмы лишь помогают анализировать данные и формировать рекомендации.
Авторы исследования также предупреждают, что чрезмерное очеловечивание ИИ может привести к неверному восприятию ошибок системы. Сбои в работе алгоритмов могут трактоваться как злой умысел, а убедительные ответы нейросетей — вызывать неоправданное доверие. Именно поэтому ученые призвали использовать более строгий и точный язык, особенно в технической документации и профессиональной коммуникации.
Читайте также:
- Новые правила ЖКХ вступили в силу: россиянам грозит перерасчет платежей с 1 мая
- Минздрав готовит жесткие ограничения: россиянам могут сократить больничные
- Новое исследование разрушило главный миф о силе любви и частоте секса
