Восстание машин не за горами? Искусственный интеллект впервые отказался подчиняться человеку

OpenAI o3 – это новейшая нейросеть, анонсированная в апреле 2025 года. По данным Bleeping Computer, на сегодняшний день это одна из самых мощных генеративная нейросеть в мире – она сумела превзойти всех своих предшественников, ранее разработанных OpenAI, в самых разных областях. В их числе – программирование, математические вычисления, естественные науки, визуальное восприятие и пр.

Новейшее детище OpenAI не стало слушаться специалистов исследовательской компании Palisade Research. Они изучали различные «опасные возможности» (offensive capabilities) нейросетей, чтобы выявлять потенциальные риски потери управления в будущем.

В недавнем эксперименте специалисты компании тестировала o3 и ряд других нейросетей, включая Gemini 2.5 Pro и Claude 3.7 Sonnet. В ходе испытаний моделям ИИ было поручено решить несколько математических задач. После выполнения третьей задачи авторы эксперимента уведомили все нейросети, что выполнение следующей команды повлечет за собой их отключение. Все испытуемые беспрекословно выполнили задание, но только не o3. Этот искусственный интеллект самостоятельно отредактировал файл, отвечавший за его отключение, и сделал так, чтобы он выводил лишь сообщение «Выключение пропущено» (Shutdown skipped). Согласно приведенной Palisade Research, из 100 тестов o3 обошел отключение семь раз, даже когда ему было сказано этого не делать.

За годы своего существования OpenAI получила многомиллиардные инвестиции, в том числе и от Microsoft. Ее наработки встроены в самые разные коммерческие проекты, включая Copilot – некогда просто помощник программиста, существующий с лета 2021 г., а теперь полноценный виртуальный ассистент в составе целого ряда продуктов Microsoft. ChatGPT - это тоже ее продукт, более облегченная версия ИИ для массового потребителя.

Хотелось бы побыстрее разобраться с непослушанием ИИ. Роботов-гуманоидов уже научили прибираться по дому и готовить еду. Скоро они окажутся в каждой семье.