"Тревожные звоночки оглушительны!": в ООН намерены взять под контроль ИИ

Технология генеративного искусственного интеллекта, которая может создавать авторитетную прозу из текстовых подсказок, покорила публику с момента запуска ChatGPT шесть месяцев назад и стала самым быстрорастущим приложением всех времен. ИИ также стал предметом беспокойства из-за его способности создавать поддельные изображения и другую дезинформацию.

“Тревожные звоночки по поводу новейшей формы искусственного интеллекта — генеративного ИИ — оглушительны. И они громче всего звучат от разработчиков, которые его разработали, — сказал Гутерриш журналистам. - Мы должны серьезно отнестись к этим предупреждениям”.

Он объявил о планах начать к концу года работу над консультативным органом высокого уровня по ИИ, который будет регулярно пересматривать механизмы управления ИИ и предлагать рекомендации о том, как они могут соответствовать правам человека, верховенству закона и общему благу.

Но в понедельник он добавил: “Я бы одобрил идею создания агентства искусственного интеллекта… вдохновленного тем, чем сегодня является международное агентство по атомной энергии”.

Гутерриш сказал, что такая модель может быть "очень интересной", но отметил, что "ее могут создать только государства-члены, а не Секретариат Организации Объединенных Наций". Базирующееся в Вене МАГАТЭ было создано в 1957 году и занимается продвижением безопасного, надежного и мирного использования ядерных технологий, отслеживая при этом возможные нарушения Договора о нераспространении ядерного оружия (ДНЯО). В нее входят 176 государств-членов.

Создатель ChatGPT OpenAI заявил в прошлом месяце, что такой орган, как МАГАТЭ, может устанавливать ограничения на развертывание, проверять соблюдение стандартов безопасности и отслеживать использование вычислительной мощности.

Премьер-министр Великобритании Риши Сунак также поддержал эту идею и сказал, что хочет, чтобы Великобритания стала домом для глобального регулирования безопасности ИИ. В конце этого года Великобритания должна провести саммит, посвященный тому, как скоординированные международные действия могут справиться с рисками, связанными с искусственным интеллектом.

Гутерриш сказал, что поддерживает план саммита в Великобритании, но отметил, что ему должна предшествовать “серьезная работа”. Он сказал, что планирует назначить в ближайшие дни научно-консультативный совет экспертов по искусственному интеллекту.