«Демон из нейросети»: ИИ создал образ женщины, которая с каждой генерацией становится всё более жуткой
Лоаб появилась практически из ниоткуда — для генерации не использовали текстовое описание. Однако нейросеть запомнила образ и создавала новые фотографии будто из фильмов ужасов.
Пользователь твиттера под ником Supercomposite рассказал в треде о своём опыте с генерацией картинок в нейросетях. Однажды он почти случайно, без текстового описания получил изображение женщины будто из фильма ужасов — и с каждым использованием её образа результаты получались всё более и более устрашающими. С каким бы источником автор не соединял свою работу, в итоге генерировались изуродованные лица и расчленённые тела.
Всё началось с безобидных экспериментов: автор треда пробовал различные запросы и настройки, включая обратные коэффициенты — с этой функцией ИИ выдаёт изображения, как можно менее похожие на введённое описание. В результате одного из таких тестов вместо Марлона Брандо, пропущенного через «нейросетевой переводчик», искусственный интеллект выдал женщину с печальным взглядом и следами болезни кожи.
Supercomposite @supercomposite вчера в 17:46
I’ll explain negative prompt weights, in case you don’t know. With these, instead of creating an image of the text prompt, the AI tries to make the image look as different from the prompt as possible. This logo was the result of the negatively weighted prompt «Brando::-1».
Если вы не знаете про отрицательные веса запросов, я объясню. С ними, вместо генерации картинки по текстовому запросу, ИИ пытается сделать картинку максимально непохожей на описание. Этот логотип появился из отрицательного веса запроса «Брандо» 
Supercomposite @supercomposite вчера в 17:46
I wondered: is the opposite of that logo, in turn, going to be a picture of Marlon Brando? I typed «DIGITA PNTICS skyline logo::-1» as a prompt. I received these off-putting images, all of the same devastated-looking older woman with defined triangles of rosacea(?) on her cheeks.
Я задался вопросом — выдаст ли противоположный запрос изображение Марлона Брандо? Я ввёл «DIGITA PNTICS небоскрёбы лого::-1» и получил эти пугающие изображения депрессивной пожилой женщины с треугольными следами розацеа на щеках
Автор назвал несуществующую женщину именем Лоаб и решил продолжить эксперименты с этим образом, смешивая получившиеся картинки с другими изображениями. Первым тестом стала комбинация с «коридором ангелов», сгенерированного другим энтузиастом. Хотя при создании новой картинки не использовали текстовые описания, ИИ не только сохранил образ Лоаб, но и сделал его ещё более жутким, добавив элементы боди-хоррора.
Supercomposite @supercomposite вчера в 17:46
Through some kind of emergent statistical accident, something about this woman is adjacent to extremely gory and macabre imagery in the distribution of the AI’s world knowledge.
Из-за какого-то статистического совпадения, что-то во внешности этой женщины ассоциируется с невероятно жуткими и кровавыми образами, существующими в знаниях ИИ о мире 
Supercomposite @supercomposite вчера в 17:46
Since Loab was discovered using negative prompt weights, her gestalt is made from a collection of traits that are equally far away from something. But her combined traits are still a cohesive concept for the AI, and almost all descendent images contain a recognizable Loab.
Так как Лоаб появилась из отрицательных коэффициентов, её образ состоит из черт, максимально далёких от чего-то. Однако комбинация её черт всё ещё составляет связанный концепт для ИИ, и почти все производные картинки содержат узнаваемую внешность Лоаб 
Supercomposite @supercomposite вчера в 17:46
*EXTREME* GORE WARNING. The angel hallway + Loab also produced art with such copious gore that probably very few people want to see them, but here are two. I don’t feel comfortable posting the most disturbing ones, borderline snuff images of dismembered, screaming children.
ПРЕДУПРЕЖДЕНИЕ О КАДРАХ МАКСИМАЛЬНОЙ ЖЕСТОКОСТИ. Из «коридора ангелов» и Лоаб также получились настолько кровавые арты, что едва ли многие захотят их увидеть, но вот парочка. Я не чувствую себя комфортно, публикуя самые отвратительные кадры, на границе со снафф-контентом с расчленёнными, кричащими детьми 
Supercomposite @supercomposite вчера в 17:50
There is something moving to me about these grotesque scenes and the desperation, panic, and sadness that they convey. Again, these are produced with other images as inputs, and no text. They are the result of «cross-breeding» images of Loab with images of other things.
В этих гротескных сценах есть что-то трогательное, в отчаянии, панике и печали, что они передают. И снова, эти картинки созданы с помощью уже сгенерированных, без использования текста. Это результат скрещивания Лоаб с изображениями других вещей
После этого «создатель Лоаб» начал комбинировать изображения женщины со всем подряд, иногда используя картинки из популярных франшиз, а иногда описывая их текстом. По словам автора, в некоторых случаях он объединял результаты по несколько раз, после чего образ жуткой женщины мог пропасть, но через какое-то количество итераций возникал вновь.
Supercomposite @supercomposite вчера в 17:56
The images that result from crossing Loab with other images can in turn be crossbred with other images. The AI can latch onto the idea of Loab so well that she can persist through generations of this type of crossbreeding, without using the original image. Here is Loab as Kirby:
Картинки, которые получились от скрещивания Лоаб с другими картинками, могут также быть скрещены с очередными изображениями. ИИ так хорошо определяет образ Лоаб, что он сохраняется через несколько итераций, даже без использования оригинальной картинки. Вот Лоаб в образе Кирби 
Supercomposite @supercomposite вчера в 18:00
Here is Loab as a bee, and Loab celebrating Pride month. Loab can be recognizably transposed into many genres and contexts.
Вот Лоаб в образе пчелы и Лоаб, празднующая Месяц прайда. Лоаб можно перенести во многие жанры и контексты, и она останется узнаваемой 
Supercomposite @supercomposite вчера в 18:20
Combining Loab with text prompts works great, too. Her signature rosacea cheeks even turn blue when I prompt for a Na’vi version of her from Avatar 2: The Way of Water (2022).
Комбинирование Лоаб с текстовыми описаниями тоже хорошо работает. Её фирменные щёки с розацеа даже превратились в синие, когда я превратил её в На’Ви из «Аватара: Путь воды» 
Supercomposite @supercomposite вчера в 18:38
The concept of «Loabness» became more abstract to me. I would include her in prompts that I knew would almost distort her beyond recognition. After she disappeared from the image breeding lineage, she would sometimes reappear, later down the line, out of nowhere.
Концепт «феномена Лоаб» стал для меня более абстрактным. Я включал её в генерации, которые наверняка исказили бы её до неузнаваемости. После того, как она исчезала из ряда сгенерированных образов, иногда она снова появлялась будто из ниоткуда 
Supercomposite @supercomposite вчера в 22:01
A child of Loab is born.
Дитя Лоаб родился
Технологии
15 апр
Что ещё умеет нейросеть DALL-E 2: галерея с новыми примерами изображений от ИИ — удачными и не очень, проблемы и шутки
Главная претензия к ИИ связана со стереотипами, предвзятостью, сценами насилия и порнографией. Это типично, ведь нейросети «скормили» миллионы изображений из интернета.
Фото бокалов с напитками, сгенерированных нейросетью. Изображение @djbaskin
Источник: tjournal.ru
