Искусственный интеллект впервые сам уволил человека

Необычный эксперимент

В Сан-Франциско ИИ, управляющий магазином, принял решение уволить работника, который систематически опаздывал. Этот случай называют первым известным примером, когда большая языковая модель, выступавшая непосредственным руководителем человека, приняла решение о его увольнении.

Эксперимент проходит в Сан-Франциско, где стартап Andon Labs открыл необычный магазин Andon Market. Компания арендовала торговое помещение на три года и передала управление бизнесом ИИ-агенту по имени Luna, работающему на основе модели Claude. Цель эксперимента - выяснить, насколько современные ИИ-системы способны самостоятельно вести реальный бизнес, распоряжаться деньгами и руководить людьми.

ИИ получил весьма широкие полномочия. Он выбирает товары, устанавливает цены, занимается закупками, определяет часы работы и принимает другие решения. Более того, Luna сама пришла к выводу, что магазину необходимы живые сотрудники. ИИ разместил объявления о вакансиях, проводил телефонные собеседования и в итоге выбрал работников. Формально они были трудоустроены в Andon Labs и получили обычные трудовые гарантии.

Начальник, который слишком многое прощал

Одним из сотрудников ИИ оказался человек, у которого возникли серьезные проблемы с пунктуальностью. По опубликованным данным, он опоздал или не пришел вовремя на 17 из 23 смен.

Для обычного руководителя такая статистика, вероятно, довольно быстро стала бы поводом для серьезного разговора. Но ИИ-начальник оказался удивительно терпеливым.

Luna долгое время не предпринимала решительных действий. Более того, составленный ранее регламент посещаемости фактически исчез из ограниченной рабочей памяти системы. Сотрудники рассказывали, что ИИ вообще оказался довольно мягким начальником и в проблемных ситуациях мог успокаивать работников и говорить им не переживать.

Именно память стала одной из слабых сторон эксперимента. Andon Labs и раньше отмечала, что долгосрочная память остается серьезной проблемой для автономного ИИ, которому необходимо управлять бизнесом не несколько минут или часов, а месяцами. Компания относит к главным недостаткам своего ИИ-управляющего недостаток стремления добиваться результата, недостаточно тщательное принятие решений и проблемы с памятью.

Человеку пришлось напомнить о правилах

В конце концов в ситуацию вмешался представитель Andon Labs. Он попросил ИИ найти правила посещаемости и проверить, соблюдает ли их сотрудник. Но даже после этого искусственный интеллект не бросился увольнять человека.

Сначала он предложил вынести работнику предупреждение. Тогда куратор сообщил модели дополнительную информацию: с сотрудником уже неоднократно разговаривали по поводу его опозданий. После этого ИИ попросили еще раз подумать, действительно ли такой работник подходит магазину. И только тогда было принято решение об увольнении.

Ранее Otkrito.lv писал о том, что по Латвии прокатилась волна массовых увольнений, но в Банке Латвии считают, что все в порядке.