Исследователи из Университета штата Мичиган пришли к выводу, что современные системы искусственного интеллекта могут допускать серьезные ошибки при поиске признаков внеземной жизни. Эксперимент показал, что алгоритмы машинного обучения удалось ввести в заблуждение во всех случаях, о чем 7 июля сообщил журнал Popular Science.
Читайте: Россиянам готовят новые запреты: что изменится уже в ближайшее время
Компьютерный инженер Анкит Гупта и его коллега Кристоф Адами использовали программу Avida, моделирующую эволюционные процессы. На основе десятков тысяч цифровых организмов исследователи обучили нейросеть распознавать самовоспроизводящиеся последовательности и отличать их от остальных объектов.
Во время обучения алгоритм демонстрировал высокую точность, однако ситуация изменилась после появления новых данных. Как показал эксперимент, внесение всего 150 небольших изменений в программный код цифровых организмов оказалось достаточным, чтобы система начала массово воспринимать ложные сигналы как признаки существования жизни.
По словам Кристофа Адами, искусственный интеллект обладает уязвимостью, которая позволяет ему обнаруживать закономерности и одновременно неверно их интерпретировать. Исследователь назвал эту особенность серьезной проблемой, требующей дополнительного внимания при разработке подобных технологий.
Авторы работы считают, что выявленный недостаток касается не только будущих космических миссий. Аналогичные ошибки могут возникать в системах распознавания лиц, беспилотном транспорте и медицинских диагностических комплексах. При этом ученые подчеркивают, что результаты исследования не ставят под сомнение перспективы искусственного интеллекта, а лишь указывают на необходимость более надежной проверки его выводов.
Адами отметил, что для безопасного применения подобных алгоритмов необходимо использовать независимые механизмы контроля. По его мнению, важной частью такой системы должен оставаться человек, способный проверять и оценивать решения, принимаемые искусственным интеллектом.
Читайте также:
- Россиянам грозят новые начисления за ЖКХ: вступили в силу важные изменения
- Пенсии в России резко вырастут с 1 августа: кто получит прибавку уже летом
- Миллионы россиян столкнутся с новыми правилами в июле: что изменится для ваших денег
