Разработчики искусственного интеллекта приближаются к созданию моделей, которые смогут принимать более активное участие в совершенствовании следующих поколений ИИ-систем. Этот процесс называют рекурсивным самоулучшением и рассматривают как потенциальный инструмент для исследовательской работы. Как пишет Associated Press, одновременно с расширением возможностей таких моделей разработчики уделяют внимание вопросам безопасности.
Читайте: Россиянам готовят новые запреты: что изменится уже в ближайшее время
Одним из примеров использования ИИ в создании новых систем стала работа Anthropic. По данным компании, Claude сейчас выполняет 26% задач, связанных с исследованиями и разработкой следующей модели. Система уже способна получить высокоуровневое задание и пройти путь до готового результата, однако полной автономности пока не достигла.
Некоторые исследователи считают, что первые элементы рекурсивного самоулучшения появились несколько лет назад. Современные модели, в частности, используются для написания кода, необходимого при разработке следующих ИИ-систем. До настоящего времени подобные эксперименты приводили преимущественно к постепенным улучшениям, а не к крупным открытиям, самостоятельно совершенным искусственным интеллектом.
OpenAI планирует двигаться от автоматизированного исследовательского помощника к системе уровня ИИ-исследователя. Переход к такому формату компания намерена осуществить к марту 2028 года. При этом лаборатория признает риск того, что меры безопасности и работа по согласованию поведения систем могут развиваться медленнее, чем их возможности.
Свои сроки дальнейшей автоматизации ИИ называл и Илон Маск. Он связывал достижение полной автоматизации Grok с концом 2026 года или 2027 годом. Microsoft, в свою очередь, не ставит целью создание системы с неограниченной автономностью.
Подход Microsoft предполагает разработку тщательно ограниченного «гуманистического сверхинтеллекта», предназначенного для служения людям. Таким образом, разработчики рассматривают разные варианты развития более самостоятельных ИИ-систем — от расширения их участия в исследованиях до заранее установленного ограничения автономности. При этом существующие модели пока не достигли уровня, при котором процесс их совершенствования происходит полностью самостоятельно.
Читайте также:
- Сентябрь все изменит: что ждет россиян уже с 1 числа
- Пенсии в России резко вырастут в октябре: кто получит прибавку
- В платежках за ЖКХ появятся новые начисления: что уже изменилось для россиян
