Папа римский предупредил мир об угрозе искусственного интеллекта
Папа Римский Лев XIV выступил с жестким предупреждением о будущем: понтифик заявил, что искусственный интеллект может угрожать демократии, усиливать власть элит и не должен принимать решения о жизни и смерти.
Глава Римско-католическая церковь Лев XIV опубликовал свою первую энциклику, посвященную теме искусственного интеллекта. В документе под названием Magnifica Humanitas понтифик предупредил о многочисленных рисках, которые ИИ несет человечеству, и призвал к строгому регулированию этой технологии.
Папа отметил, что искусственный интеллект способен стать «ценным инструментом» в различных сферах, однако его развитие уже приводит к серьезным перекосам во власти и влиянии. По словам Льва XIV, выгоды от использования ИИ распределяются крайне неравномерно и в первую очередь достаются тем, кто уже обладает огромными ресурсами и влиянием.
«Небольшие, но чрезвычайно влиятельные группы могут формировать модели информации и потребления, влиять на демократические процессы и направлять экономическую динамику в собственных интересах», — говорится в документе.
Понтифик подчеркнул, что развитие и использование искусственного интеллекта должны контролироваться на основе четких правил, общественного участия и эффективного надзора. «Основой искусственного интеллекта должны быть человеческие ценности и мораль», — заявил папа римский Лев XIV.
При этом он отдельно предупредил, что моральные принципы не могут определяться лишь узким кругом влиятельных людей. Многие наблюдатели расценили эти слова как косвенную критику американских технологических миллиардеров.
Особенно резко папа высказался по поводу применения ИИ в военной сфере. «Ни при каких обстоятельствах нельзя оставлять решения о жизни и смерти на усмотрение машин. Недопустимо доверять искусственным системам летальные или иные необратимые решения», — подчеркнул понтифик.
Презентация энциклики прошла в Ватикане при участии кардиналов, теологов и представителей технологической индустрии. Среди гостей был и сооснователь компании Anthropic Крис Ола. Основанная в Сан-Франциско компания Anthropic позиционирует себя как исследовательскую организацию в области безопасности ИИ. Ранее компания вступила в конфликт с администрацией США, отказавшись разрешить использование своих моделей искусственного интеллекта в автоматизированных системах вооружения и массового наблюдения за населением.
