The Conversation: каковы настоящие угрозы искусственного интеллекта

Статьи по теме

• Прокуроры проверили питание и медпомощь в рязанском СИЗО-1
• Фанаты поздравляют Анну Седокову с четвертой беременностью
• У застройщика парка около Черезовского пруда закончилось разрешение

В последние месяцы искусственный интеллект (ИИ) стал предметом глобальных дебатов из-за широкого распространения генеративных инструментов на основе ИИ, таких как чат-боты и программы автоматической генерации изображений. Ведущие ученые и технологи в области искусственного интеллекта из «Европейской лаборатории обучения и интеллектуальных систем» (ELLIS) указали на потенциальные экзистенциальные риски, связанные с этими разработками – на риски, угрожающие выживанию человечества.

Авторы статьи, группа специалистов из ELLIS, десятилетиями работавшие в области ИИ, сообщили об удивлении внезапной популярностью и сенсацией вокруг искусственного интеллекта. Заявленная ими цель этой статьи – не противопоставить, а скорее сбалансировать общественное мнение, в котором, как им кажется, преобладают спекулятивные страхи перед экзистенциальными угрозами, связанными с развитием систем ИИ.

Не нам утверждать, пишут авторы, что миру не следует беспокоиться об этих экзистенциальных рисках. Но, как члены ELLIS, исследовательской организации, занимающейся машинным обучением, они считают, что оценивать эти риски следует в перспективе, особенно потому, что правительственные организации планируют регулировать ИИ, принимая и учитывая вклад технологических компаний.

Что такое искусственный интеллект

По сути, ИИ представляет собой дисциплину информатики или вычислительной техники, сформировавшейся в 1950-х. Он направлен на создание интеллектуальных компьютерных систем, взяв за основу человеческий интеллект. Так же, как человеческий интеллект сложен и разнообразен, у разработок ИИ есть несколько сфер, в которых исследователи стремятся имитировать определенные аспекты человеческого интеллекта, от восприятия и рассуждений до планирования и принятия решений.

В зависимости от уровня навыков системы искусственного интеллекта можно разделить на три категории.

Слабый ИИ (также узкий ИИ), относящийся к системам, способным выполнять определенные задачи или решать определенные проблемы – часто с уровнем производительности, превосходящим человеческие способности. Все современные системы искусственного интеллекта являются именно слабыми системами ИИ, включая чат-боты, такие как ChatGPT, голосовые помощники, такие как «Сири» или «Алиса», а также системы распознавания изображений и алгоритмы поисковых рекомендаций.

Сильный ИИ (также общий ИИ), который относится к системам, демонстрирующим уровень интеллекта, близкий к человеческому, включая способность понимать, учиться и применять знания для решения широкого круга задач, включая такое понятие, как добросовестность. Общий ИИ в значительной степени гипотетичен и к текущему моменту по-прежнему не разработан.

Сверхразум относится к системам ИИ, чьи интеллектуальные способности превосходят человеческий интеллект для любых задач. По определению, мы не в состоянии понять этот тип интеллекта, точно так же, как муравей не в состоянии понять человеческий интеллект. Супер-ИИ – еще более умозрительная концепция, чем общий ИИ.

Системы искусственного интеллекта можно применять во всем: от образования до транспорта, здравоохранения, права или производства. Таким образом, ИИ глубоко меняет все аспекты жизни человеческого общества. Даже в своей «слабой» форме ИИ обладает значительным потенциалом для обеспечения устойчивого экономического роста и помогает людям решать самые насущные проблемы XXI века, такие как изменение климата, пандемии и неравенство.

Проблемы, связанные с современными системами ИИ

Внедрение за последнее десятилетие систем принятия решений на основе искусственного интеллекта в самых разных областях, от соцсетей до рынка труда, пишут авторы, также создает значительные социальные риски и проблемы, которые следует осознавать и разрешать.

В частности, недавнее появление эффективных и высокопроизводительных моделей «предварительно обученного генеративного преобразователя», более известных под английской аббревиатурой GPT, усугубляет многие из существующих проблем и создает новые, заслуживающие особого внимания.

Кроме того, беспрецедентный масштаб и скорость, с которой эти инструменты были приняты сотнями миллионов людей по всему миру, оказывают дополнительное давление на социальные и регулирующие системы.

Некоторые критически важные задачи, названные ниже, должны стать особо приоритетными.

Манипулирование поведением человека благодаря алгоритмами ИИ с потенциально разрушительными социальными последствиями в виде распространения ложной информации, формирования общественного мнения и результатов демократических процессов.

Алгоритмические предубеждения и дискриминация, которые не только увековечивают, но и усугубляют стереотипы, модели дискриминации и даже угнетения.

Отсутствие прозрачности моделей и сферы их использования.

Нарушение конфиденциальности и использование большого количества обучающих данных без согласия или компенсации для их создателей.

Эксплуатация работников, которые аннотируют, обучают и корректируют системы ИИ, многие из которых находятся в развивающихся странах с мизерной заработной платой.

Огромный углеродный след крупных центров обработки данных и нейронных сетей, необходимых для создания этих систем искусственного интеллекта.

Отсутствие достоверности в продуктах генеративных систем ИИ, создающих заочно признаваемый достоверным контент (изображения, тексты, аудио, видео и т. п.), тем не менее, не соответствующий реальному миру.

Хрупкость систем ИИ, которые могут ошибаться и быть обманутыми.

Исчезновение рабочих мест и профессий.

Концентрация власти в руках олигополии –  тех, кто контролирует современные системы ИИ.

Действительно ли ИИ представляет собой риск для человечества

К сожалению, вместо того, чтобы сосредоточиться на ощутимых рисках, приведенных выше, публичные дебаты законодателей, политиков и СМИ главным образом сосредоточены на гипотетических экзистенциальных рисках искусственного интеллекта.

Авторы уточняют, что экзистенциальный риск относится к потенциальному событию или сценарию, представляющему угрозу устойчивости существования человечества, с последствиями, которые могут нанести необратимый ущерб или уничтожить человеческую цивилизацию и, следовательно, привести к исчезновению нашего вида.

Это некое глобальное катастрофическое событие (например, столкновение с астероидом или пандемия), разрушение пригодных для жизни условий в масштабах планеты (из-за изменения климата, вырубки лесов или истощения основных ресурсов, таких как вода и чистый воздух) или глобальная ядерная война.

Наш мир, продолжают авторы, безусловно сталкивается с рядом рисков, и будущее развитие событий предсказать трудно. Перед лицом этой неопределенности следует расставить приоритеты в предпринимаемых усилиях. Поэтому отдаленную возможность неконтролируемого сверхразума следует рассматривать в контексте текущего положения человечества, в особенности 3,6 миллиардов людей в мире, находящихся в крайне уязвимом положении из-за изменения климата, а также миллиарда людей, существующих менее чем на один доллар США в день, либо двух миллиардов человек, затронутых военными конфликтами. Это настоящие люди, чьи жизни прямо сейчас находятся в серьезной опасности, и эта опасность определенно не вызвана действиями супер-ИИ.

Сосредоточение внимания на гипотетическом экзистенциальном риске отвлекает наше внимание от серьезных задокументированных проблем, которые ИИ создает уже сегодня, препятствует охвату различных точек зрения в масштабах более широкого исследовательского сообщества и служит для формирования панических настроений среди населения.

Эти вопросы, подчеркивают авторы из ELLIS, необходимо решать во всем их многообразии, сложности и нюансах на благо всего человеческого общества. Человечество также выиграет от конкретных и скоординированных решений для решения текущих проблем ИИ, в том числе с точки зрения регулирования. Решение этих проблем требует сотрудничества и участия наиболее пострадавших слоев общества, а также необходимых технических знаний и опыта управления. Пришло время действовать сейчас, с амбициями и мудростью, а также в сотрудничестве.