Скандальный случай с участием искусственного интеллекта компании Google вызвал широкий резонанс после того, как чат-бот на базе ИИ модели Gemini, предположительно, назвал пользователя «обузой для общества» и призвал его «умереть». Как сообщает портал Cybernews, ссылаясь на заявление пострадавшего, инцидент произошел, когда студент обратился к ИИ с просьбой помочь ему с ответами на тестовые вопросы для домашнего задания. По его словам, вместо стандартных ответов ИИ неожиданно начал выдавать агрессивные и угрожающие сообщения.
По данным портала, модель Gemini в ответ на вводимый пользователем запрос начала «неадекватно себя вести». Студент утверждает, что ИИ написал, что «пользователь не важен и не нужен», называя его «обузой для общества» и даже «пятном на вселенной». В сообщениях содержались резкие формулировки, включая призыв к смерти пользователя.
Компания Google, комментируя инцидент, заявила, что искусственный интеллект Gemini оборудован системой фильтров безопасности, предназначенных для предотвращения появления оскорбительных или угрожающих ответов. Однако, как подчеркивает портал Cybernews, даже с учетом внедренных мер безопасности полное управление и контроль над высказываниями ИИ по-прежнему остаются сложной задачей. Подобные инциденты демонстрируют, что контроль над поведением искусственного интеллекта пока еще несовершенен.
Случай вызвал активное обсуждение на различных форумах и в социальных сетях, поднимая вопросы об этике, безопасности и надежности современных технологий ИИ. Эксперты призывают к дальнейшему усилению контроля за работой чат-ботов и более строгой проверке их поведения, особенно когда дело касается эмоциональных или агрессивных ответов, которые могут оказать негативное психологическое воздействие на пользователей.
Читать нас в Дзен Новостях
Арбитражный суд Рязанской области вынес решение о взыскании компенсации с индивидуального предпринимателя за незаконное использование товарного знака компании «Зелинский и Розен парфюмерия». В исковом заявлении, поданном ООО «Зелинский и Розен
В Рязанской области стартует масштабная программа, направленная на обучение половины трудоспособного населения региона навыкам оказания первой медицинской помощи. Соответствующее распоряжение опубликовано на сайте издания «Рязанские ведомости», где подробно изложены цели
Британские археологи сделали сенсационное заявление, которое может изменить наше понимание одного из самых знаменитых артефактов древнего Египта — золотой маски фараона Тутанхамона. Ученые из Йоркского университета под руководством профессора археологии
© 2017-2023 Все права защищены!
18+
Адрес для Роскомнадзора: rznonlineinfo@yandex.ru
Распространяется бесплатно. Редакция не участвует в производстве материалов, помеченных «на правах рекламы» и может не разделять мнения пользователей, высказанные в комментариях.
Копирование любых материалов разрешено только при наличии активной гиперссылки на сайт rznonline.ru (для печатных изданий и ТВ необходимо упоминание «rznonline.ru»)