Тиктокер Джереми Дэвис попросил нейросеть Midjourney создать реалистичные изображения людей с аутизмом и обнаружил, что та представляет их очень стереотипно. Об этом мужчина рассказал в своем блоге.
Дэвис отметил, что получил с помощью Midjourney 148 изображений. Почти на всех из них были нарисованы молодые грустные юноши европейской внешности. Только на двух картинках нейросеть изобразила девушку (и тоже европейской внешности).
По словам блогера, пять изображений представляли человека старше 30 лет, и ни на одном из рисунков персонаж не улыбался. Кроме того, у многих героев картинок были рыжие волосы и откровенно болезненный вид.
Если Дэвис убирал из описания задания для нейросети слово «фотореализм», Midjournay выдавал ему мультяшные картинки со все такими же однотипными парнями, но в этот раз — на фоне пазлов.
Пазл стал символом аутизма, но регулярно подвергается критике из‑за того, что как бы намекает на отсутствие у людей с таким диагнозом некой «недостающей детали».
Результаты эксперимента Дэвиса вызвали бурные обсуждения в сети. Пользователи стали рассуждать, можно ли теперь обвинить нейросеть в эйблизме, сексизме и расизме.
Они напомнили, что «искусственный интеллект — отражение общества» и что нейросеть ничего не создает, а работает на основе загруженных в нее данных. «Отражение может показать нам, как мы можем улучшиться», — написала одна женщина.
«Любой исследователь искусственного интеллекта скажет тебе, что твой текущий ИИ — это не более чем очень хороший попугай», — отметил другой пользователь. «У них всех еще и голубые глаза?» — удивился третий.
Еще один комментатор сказал, что картинки не показывают реальность, а изображенные на них люди похожи скорее на фан-арт к какой‑нибудь фэнтези-франшизе. «Большему числу людей нужно знать о том, как распространяются стереотипы через ИИ», — подчеркнул другой.
«ИИ берет информацию от людей. Когда наше общество подавляет группы и создает маргинализацию, это отражается и на ИИ», — заметил еще один тиктокер. «Это огромная проблема», — согласился с ним очередной пользователь.
«У меня есть аутистичная подруга, и она буквально самый веселый, жизнерадостный, энергичный человек, которого я встречала»
⠀
«Я понимаю, что ты говоришь, но в то же время это сводит меня с ума»
⠀
«ИИ — это отражение контента онлайн»
«Никогда не видел так много изображений Эдди Редмейна и Фредди Хаймора»
⠀
«Думаю, я только что потерял клетки своего мозга»
⠀
«Только что написал докторскую работу об этом»
«Спасибо тебе. Немногие люди понимают это, и ты объяснил так хорошо»
⠀
«Когда ты выбираешь реалистичный стиль, да. Но этот стиль для меланхолии, не для мультяшного счастья»
⠀
«Вещи, которые мы создаем, отражают наши глубочайшие недостатки»
Среди комментаторов оказались и люди с аутизмом. Одна девушка призналась, что постоянно сталкивается с удивлением, когда рассказывает людям о своем диагнозе. «Они всегда говорят „Но ты не выглядишь аутистичной“», — написала она.
«У меня аутизм, но я очень, очень отличаюсь от этих изображений», — заявил мужчина по имени Фабио. «Он просто показал всех, с кем я когда‑либо встречался», — пошутил еще один пользователь.
Одна женщина попросила блогера проверить Midjourney на то, как он показывает людей с СДВГ, обсессивно-компульсивным расстройством и синдромом Туретта. «Буду использовать твое видео на моих уроках социологии», — пообещала другая.
Midjourney — нейросеть, с помощью которой можно генерировать изображения. Ее последняя версия, позволяющая создавать реалистичные картинки, вышла в марте. Вскоре после этого к ней закрыли бесплатный доступ из‑за многочисленных дипфейков.
С помощью Midjourney ранее воссоздали классические мемы, иллюстрировали книги, создавали концепты зданий и придумывали трейлеры к несуществующим фильмам и сериалам.