Агентный ИИ и свобода выбора: готовы ли мы доверить машинам нашу повседневность?

Хью Лайнэн, редактор портала Irish Times, в своей колонке пишет: "Общеизвестно, что любое внезапное изменение дизайна цифрового сервиса или медийного продукта становится болезненным испытанием для всех участников. Я до сих пор помню свой опыт онлайн-редактора этой газеты в 2013 году, когда пользователи irishtimes.com яростно отреагировали на редизайн сайта. Некоторые претензии касались технических сбоев, которые быстро устранялись, другие — стратегических изменений, необходимых для будущего сайта. Но чаще всего проблема была в том, что люди просто не любят перемены.

Крупные технологические и соцсети уже много лет проходят через этот минное поле. Каждое значительное обновление Facebook, Instagram или iOS встречается шквалом критики и угрозами бойкота. Со временем всё утихает, пользователи привыкают, а возмущение забывается. Иногда же функции откатывают, если они слишком непопулярны.

Последним объектом цифрового недовольства стал ChatGPT от OpenAI. Запущенный в конце 2022 года, он стал самым быстрорастущим потребительским сервисом в истории, собрав сотни миллионов пользователей и внедрившись в работу, школы и повседневные разговоры. Но с выходом GPT-5 7 августа реакция была снова бурной.

В колонке в The New Yorker «А что если ИИ не станет лучше?» учёный и писатель Кал Ньюпорт проанализировал последствия. Он поговорил с аналитиками, скептически относящимися к громким заявлениям о трансформации, особенно к прогнозам, что рост вычислительной мощности приведёт к появлению искусственного общего интеллекта (AGI) — системы, превосходящей человека во многих задачах. Однако обновление GPT-5 не демонстрирует такого скачка. Улучшения между GPT-4 и GPT-5 скорее постепенные, чем революционные. Возможно, всё это переоценивают?

Активист и комментатор Кори Доктороу высказывает похожие сомнения, особенно по поводу модного термина «агентный ИИ» — идеи, что ИИ скоро сможет выполнять множество задач: бронировать билеты, заказывать продукты, планировать отпуск, оформлять страховки. Но для этого нужна поддержка самих сервисов. Почему авиакомпания или супермаркет позволят ИИ автоматически совершать сделки? Их бизнес-модели зависят от стимулирования покупок — повышения цен, допродаж, программ лояльности. Им не нужен робот-посредник.

Доктороу может быть прав или нет. Уже есть сделки между ИИ-компаниями и сервисами бронирования, такими как Expedia и OpenTable. Но было бы полезно, если бы проблемы GPT-5 заставили временно отказаться от утопических и дистопических прогнозов и сосредоточиться на реальном положении дел. А оно уже впечатляет.

Данные аналитиков показывают, что глобальный поисковый трафик заметно падает, поскольку люди всё чаще обращаются к разговорным ИИ для быстрых ответов. Многие узнают себя в том, как постепенно отходят от Google в пользу ChatGPT и конкурентов. Google пытается ответить своим ИИ-продуктом. Если поиск изменится, это перевернёт бизнес-модель интернета — сочетание рекламы и подписок, поддерживавшее цифровую экономику 25 лет.

Тем временем миллионы людей используют ИИ в работе: письма, отчёты, презентации, расписания, заявки на гранты — рутинная работа всё больше передаётся машинам. В офисах и школах ИИ уже стал частью повседневности.

Отрицательная реакция на GPT-5 связана с тем, что пользователи привыкли к особенностям GPT-4 и разочаровались, когда их привычки нарушились. OpenAI быстро отреагировала, вернув старые версии для платных подписчиков.

Некоторые жаловались, что новая модель кажется холоднее, рациональнее и менее эмпатичной. Говорили о чувстве утраты, опасаясь, что люди, особенно уязвимые психологически, формируют нездоровые связи с программами, имитирующими человеческое общение.

Мы находимся в странном положении. С одной стороны, громкие прогнозы о скором господстве машин или цифровом рае кажутся преждевременными. С другой — технология уже меняет основы работы, учёбы и общения. Перестройка цифровой экономики, проникновение ИИ в повседневность и психологические последствия общения с чатботами — всё это происходит сейчас, а не в далёком будущем".

Однако, как показывает книга Карен Хао Empire of AI: Inside the Reckless Race for Total Domination, история ИИ гораздо сложнее и тревожнее, чем заголовки. Хао, журналистка, следившая за OpenAI и её основателем Сэмом Олтманом, описывает компанию и индустрию, стремящиеся к доминированию ценой человеческих и экологических жертв.

Юридический спор Скарлетт Йоханссон летом прошлого года из-за ИИ-голоса, имитировавшего её роль в фильме Она, — лишь один пример конфликта между амбициями Кремниевой долины и правами личности. Йоханссон отказалась озвучивать ИИ-помощника, и после её протеста модель отменили. Этот случай подчёркивает этические и юридические вызовы, с которыми сталкиваются ИИ-компании.

Расследование Хао выявляет тёмную сторону развития ИИ: эксплуатацию труда, нарушение конфиденциальности и экологический ущерб от энергоёмких дата-центров. Один запрос к ChatGPT потребляет примерно в десять раз больше энергии, чем поиск в Google — впечатляющая цифра, подчёркивающая экологический след ИИ. В Ирландии более 80 дата-центров потребляют половину электроэнергии в Дублине и свыше 20% по стране, поддерживая инфраструктуру для быстрого роста ИИ.

Человеческая цена не менее серьёзна. Хао рассказывает о поездках в бедные страны, где модераторы контента, фильтрующие ненавистнические высказывания, детское насилие и токсичный материал, страдают от психологических травм, нестабильности и низкой оплаты. Один из них в Кении описал, как стресс разрушил его семейную жизнь — напоминание, что выгоды ИИ распределены неравномерно и часто даются личной ценой.

Преобразование OpenAI из некоммерческой организации с миссией «безопасного создания ИИ на благо человечества» в частично коммерческую структуру отражает внутренние противоречия индустрии. Хао описывает, как обещания прозрачности сменились секретностью, сотрудники не могут свободно высказываться, а компания теряет ясность миссии.

Гиперболы вокруг искусственного общего интеллекта и утопического будущего часто затмевают настоящие проблемы. Хао предупреждает, что гонка за ИИ подрывает фундаментальные права и эксплуатирует труд под видом прогресса. Некоторые из технологической элиты даже не заводят детей, считая, что мир недолго продержится, и предвидят будущее, где разумные машины заменят человечество — пугающая эволюция как крайний утилитаризм. Но надежда есть. Многие в сообществе ИИ верят, что их работа ускорит научные открытия и решит глобальные проблемы. Однако Хао предупреждает, что оправдывать нынешние вреды отдалённым будущим — опасная игра. Экологический ущерб, социальные потрясения и этические дилеммы требуют немедленного внимания и регулирования.

Понимание таких компаний, как OpenAI, и всей экосистемы ИИ становится всё важнее. Недавние финансовые отчёты Meta, Microsoft, Amazon и Alphabet показывают расходы в десятки миллиардов долларов на строительство и обслуживание дата-центров, необходимых для ИИ. Правительствам нужно требовать прозрачности по энергопотреблению и экологическому воздействию, а также инвестировать в независимые институты для развития экспертизы и контроля ИИ.

Возможно, урок тот же: люди ненавидят перемены, даже если они неизбежны. Но перемены не приходят мгновенно — они проникают постепенно, меняя привычки и ожидания почти незаметно. Настоящее влияние ИИ — не внезапное появление божественного разума, а постепенная перестройка повседневной жизни. И этого достаточно, чтобы сбить с толку.