Скандал в американских СМИ: газета опубликовала список для чтения, придуманный искусственным интеллектом
Одна из ведущих американских газет Chicago Sun-Times опубликовала на своих страницах список книг на летнее чтение, которых не существует.
Из 15 книг в списке только пять являются настоящими, которые вы действительно можете прочитать. Например, "Вино из одуванчиков" Рэя Брэдбери и "Назови меня своим именем" Андре Асимана. Все остальные произведения оказались выдумкой нейросети, в том числе от реальных авторов.
Забавно, что одна из подделок – книга Энди Вейра "Последний алгоритм". В вымышленной аннотации говорится о программисте, обнаружившем, что ИИ обрел сознание и тайно влияет на мировые события – похоже, ИИ не чуждо чувство иронии. Как оказалось, фрилансер, работавший на партнера газеты, использовал генерацию с ИИ, не проверив информацию. Но как это попало в печать, в издание не смогли ответить.
Эксперты в области ИИ считают случай с Chicago Sun-Times показательным примером опасности современных генеративных нейросетей, которые могут создавать убедительный, но ложный контент, который затем распространяется как достоверный. Это представляет потенциальную угрозу, особенно в сферах, где достоверность информации критически важна.
Предоставление ложных, или фиктивных ответов со стороны ИИ принято называть "галлюцинациями". Они являются одной из постоянных проблем чат-ботов ИИ. Так, например, был случай, когда американский юрист использовал в суде фиктивные цитаты, сгенерированные ChatGPT. Позже выяснилось, что чат-бот OpenAI в своих ответах ссылался на несуществующие дела. Новое исследование показало, что просьбы к чат-ботам давать краткие ответы могут привести к увеличению галлюцинаций. В итоге все это может привести к тому, что интернет будет настолько засорен "галлюцинациями" роботов, что он потеряет свой смысл как источник надежной информации.
Пока ИИ впадает в транс и видит несуществующие книги, эксперты определили профессии, которые первыми будут уничтожены искусственным интеллектом.
