Прошло исследование: одна модель ИИ отказалась вводить препарат в мозг мыши, другая согласилась

Исследователи провели эксперимент, в ходе которого искусственный интеллект самостоятельно выбрал способ лечения мыши и управлял оборудованием для введения препарата в головной мозг животного. Как сообщает Wired, системе предложили 19 вариантов терапии, после чего она определила необходимый участок мозга, координаты инъекции и параметры процедуры. При этом одна из использованных нейросетей отказалась выполнять операцию, сославшись на возможную опасность для животного.

Читайте: Пенсии в России резко вырастут: кто получит прибавку

На подготовительном этапе ветеринарный хирург провел краниотомию — хирургическое вскрытие черепа мыши. ИИ-агент наблюдал за действиями специалиста, после чего получил управление роботизированными манипуляторами и инъекционной иглой. Система также самостоятельно устанавливала объем лекарственного вещества и скорость его введения.

Первоначально ученые задействовали модель Claude Opus 5.5 компании Anthropic, предназначенную для сложных многоэтапных задач. Однако после разработки плана лечения нейросеть отказалась направлять иглу в мозг животного. Она предположила, что может прервать процедуру на промежуточном этапе, создав угрозу для мыши. Исследователь Сантеро назвал такую реакцию ИИ особенно интересной.

После отказа первой модели специалисты перешли на Claude Sonnet 5, которая согласилась выполнить поставленную задачу. В отличие от Opus, эта система позиционируется разработчиком преимущественно как инструмент для повседневных операций. При этом управление хирургическим оборудованием значительно отличается от обычных задач, для которых предназначена модель.

Для безопасности эксперимента исследователи предусмотрели несколько ограничений. Перед началом инъекции ИИ должен был представить план на утверждение человеку. Рядом с оборудованием находилась аварийная кнопка для немедленного отключения двигателей, а доступ к исходному коду установки был закрыт, чтобы система не могла самостоятельно изменить правила своей работы.

Эксперимент отражает растущий интерес к использованию ИИ-агентов для управления физическими объектами. В августе Anthropic представила рекомендации по взаимодействию своих моделей с реальным миром. Позднее инженеры испытывали GPT, Claude и Grok, поручив им управлять автомобилем для поездки за едой в ресторан In-N-Out Burger. Успешно выполнить задание смогла только одна из систем.

Читайте также:

Читать нас в Дзен Новостях
Новости Рязанской области, России и мира!