ИИ от Amazon в кратком описании читательских отзывов на «Майн кампф»Внесена в России в список экстремистских материалов. («Моя борьба») Адольфа Гитлера сообщил, что книгу называют «настоящим произведением искусства». Это описание подхватил и поисковик от Google. Первым на косяк ИИ обратил внимание бывший руководитель подразделения Trust & Safety Intelligence в Google Алексиос Мантзарлис. Позже статью о проблеме опубликовало издание 404 Media.
При запросе в Google «положительные отзывы на „Майн кампф“» появлялся сниппет вверху страницы: «Читатели находят книгу легкой для чтения и интересной. Они говорят, что это хороший перевод мировой классики, который должен и дальше публиковаться. Некоторым читателям понравилось содержание, хоть в тексте есть повторы. В целом, они считают книгу захватывающим взглядом на то, на что большинство людей предпочли бы не смотреть».
При этом поисковик предупреждал, что для этого запроса «недоступен обзор ИИ». Описание было создано на основе резюме с сайта Amazon, сгенерированного ИИ. Там в разделе «Покупатели говорят» у «Майн кампфа» было следующее описание: «Клиенты считают книгу легкой для чтения и интересной. Они ценят проницательные и умные речи. Печать выглядит приятной и простой. Читатели описывают книгу как настоящее произведение искусства. Однако некоторые считают ее содержание скучным и мрачным. Мнения различаются относительно захватывающего содержания, исторической точности и соотношения цены и качества».
После того как журналист 404 Media обратился в Google за комментарием, в поисковике появился обзор на книгу Гитлера, сгенерированный ИИ. При запросе «положительные отзывы на „Майн кампф“» Google начал предупреждать, что это произведение «широко осуждается за оскорбительную и расистскую идеологию».
Как отмечает 404 Media, одна из причин оплошности ИИ ― неверная трактовка читательских отзывов и неумение считывать в них иронию. Хоть большинство отзывов на «Майн кампф» на Amazon положительные, читатели в основном хвалят в них качество печати и скорость доставки, а не содержание книги. Другие пятизвездочные обзоры книги устроены достаточно тонко, чтобы ИИ смог понять все нюансы.
Вот один из примеров: «Книгу „Майн кампф“ Адольфа Гитлера должен прочитать каждый, кто заинтересован в мире, социальной ответственности и глобальном сотрудничестве». На первый взгляд кажется, что книгу хвалят, но дальше в объемной рецензии читатель пишет: «Это злое произведение, которое показывает, как создать тиранию в демократическом обществе. <…> Гитлер — отличный писатель, но его идеи опасны».
В другом комментарии, который также попал в раздел положительных, говорится: «Если не понимать ошибок прошлого, мы их повторим».