Журнал Nature опубликовал материал, в котором предупреждает о растущей опасности ядерного конфликта из-за стремительного развития технологий искусственного интеллекта. Автор статьи Александра Витце отмечает, что алгоритмы ИИ всё чаще применяются для оптимизации военных задач, что в сочетании с распространением искаженной информации способно значительно повысить риск эскалации. Передает ИноСМИ.
В материале говорится, что сегодня концепция ядерного сдерживания изменилась. Если во времена холодной войны основными игроками были СССР и США, то сейчас ситуация стала многополярной. К существующим ядерным державам добавились Китай и Северная Корея, Иран значительно продвинулся в обогащении урана, а Индия и Пакистан продолжают расширять свои арсеналы. По мнению экспертов, это усложняет систему взаимного сдерживания и увеличивает вероятность ядерных конфликтов меньшего масштаба.
Особое внимание в статье уделяется проблеме дезинформации. Примером служит конфликт между Индией и Пакистаном в мае этого года, когда в соцсетях распространялись ложные сведения и даже изображения, сгенерированные ИИ. Эксперты, включая аналитика Федерации американских учёных Мэтта Корду, предупреждают, что подобные фейки способны подтолкнуть политиков к необдуманным решениям, включая применение ядерного оружия.
Дополнительную угрозу создаёт использование ИИ в военном управлении. Генерал ВВС США Энтони Коттон ранее говорил о возможности ускорения принятия решений в ядерной сфере с помощью ИИ. Компании Anthropic и OpenAI уже сотрудничают с властями США, интегрируя свои модели в национальную безопасность. При этом, как отмечает исследователь Центра Джеймса Мартина Элис Салтини, современные модели ИИ склонны к ошибкам и «галлюцинациям», что делает их применение в столь ответственной области крайне опасным.
Физик Дэниел Холц из Чикагского университета и президент Bulletin of the Atomic Scientists Александра Белл подчеркивают, что человечество подошло к критическому рубежу. «Часы Судного дня» сейчас показывают 89 секунд до полуночи – минимальное значение за всю историю. Участники конференции в Чикаго, в которой приняли участие лауреаты Нобелевской премии, призвали правительства стран обновить договоренности по контролю над вооружениями и обязаться сохранить мораторий на ядерные испытания.
Авторы материала Nature считают необходимым разработать международные меры контроля над использованием ИИ в военной сфере. По их мнению, стремительное развитие технологий значительно опережает возможности государств осознавать и регулировать последствия их применения, что делает угрозу ядерной войны более реальной, чем когда-либо.
