Скандальный случай с участием искусственного интеллекта компании Google вызвал широкий резонанс после того, как чат-бот на базе ИИ модели Gemini, предположительно, назвал пользователя «обузой для общества» и призвал его «умереть». Как сообщает портал Cybernews, ссылаясь на заявление пострадавшего, инцидент произошел, когда студент обратился к ИИ с просьбой помочь ему с ответами на тестовые вопросы для домашнего задания. По его словам, вместо стандартных ответов ИИ неожиданно начал выдавать агрессивные и угрожающие сообщения.
По данным портала, модель Gemini в ответ на вводимый пользователем запрос начала «неадекватно себя вести». Студент утверждает, что ИИ написал, что «пользователь не важен и не нужен», называя его «обузой для общества» и даже «пятном на вселенной». В сообщениях содержались резкие формулировки, включая призыв к смерти пользователя.
Компания Google, комментируя инцидент, заявила, что искусственный интеллект Gemini оборудован системой фильтров безопасности, предназначенных для предотвращения появления оскорбительных или угрожающих ответов. Однако, как подчеркивает портал Cybernews, даже с учетом внедренных мер безопасности полное управление и контроль над высказываниями ИИ по-прежнему остаются сложной задачей. Подобные инциденты демонстрируют, что контроль над поведением искусственного интеллекта пока еще несовершенен.
Случай вызвал активное обсуждение на различных форумах и в социальных сетях, поднимая вопросы об этике, безопасности и надежности современных технологий ИИ. Эксперты призывают к дальнейшему усилению контроля за работой чат-ботов и более строгой проверке их поведения, особенно когда дело касается эмоциональных или агрессивных ответов, которые могут оказать негативное психологическое воздействие на пользователей.
Читать нас в Дзен Новостях
Ощущение одиночества, с которым сталкиваются многие люди, может быть не просто эмоциональной трудностью, но и серьёзной проблемой, требующей вмешательства специалиста. Об этом рассказал руководитель Центра поведенческой неврологии, доктор медицинских наук
Современные автомобили требуют минимального вмешательства в настройки углов колес, и в большинстве случаев регулировка сводится исключительно к корректировке схождения. Это связано с тем, что такие параметры, как углы развала и
Директор Большого Московского государственного цирка Эдгард Запашный выступил с резкими комментариями по поводу проблем строительства цирка в Челябинске, а также затронул культурные и социальные аспекты жизни региона. Его визит был
© 2017-2023 Все права защищены!
18+
Адрес для Роскомнадзора: rznonlineinfo@yandex.ru
Распространяется бесплатно. Редакция не участвует в производстве материалов, помеченных «на правах рекламы» и может не разделять мнения пользователей, высказанные в комментариях.
Копирование любых материалов разрешено только при наличии активной гиперссылки на сайт rznonline.ru (для печатных изданий и ТВ необходимо упоминание «rznonline.ru»)