Лоаб

https://mrakopedia.net/wiki/Мета:Лоаб

В апреле 2022 года шведская художница Стеф Май Свонсон решила применить к своим запросам т.н. промпт с негативным весом.

При генерации изображений при помощи нейросетей, запрос на генерацию выдаётся с помощью подсказок ("промптов"). Подсказки можно комбинировать между собой в различных пропорциях, задавая их вес (например, промт "котики::1, собачки::2" поможет создать изображение животных, которые скорее напоминают собак, чем котов). Негативный же вес помогает исключить определённые черты, которые вы можете ожидать от полученного изображения. Например, промпт "котики::2, на природе::-1" помогает получить изображение, на котором котики будут находиться скорее в помещении, чем снаружи.

Первый промпт - «Brando::-1», исключающий из пустого запроса актёра Марлона Брандо, выдал логотип с изображением города с искажённой надписью на нём.

Попытка сгенерировать изображение, противоположное этому, при помощи промпта «DIGITA PNTICS skyline logo::-1» дала то, что Свонсон описала как «отталкивающие изображения пожилой женщины, выглядящей опустошённо, с треугольником розовых угрей на щеках».

Свонсон назвала своего персонажа «Лоаб», так как одно из сгенерированных изображений напоминало обложку музыкального альбома со словом «loab».

Свонсон утверждает, что использование этого изображения в качестве промпта для дальнейших изображений давало все более жестокие и жуткие результаты. Она предположила, что что-то в этом изображении могло «соседствовать с чрезвычайно жуткими и макабрическими образами в наборе знаний ИИ о мире». Что когда они объединяли изображения Лоаб с другими картинками, последующие результаты неизменно содержали изображение Лоаб, независимо от того, насколько сильно они изменяли промпты, чтобы попытаться убрать это лицо.

Согласно предположению Свонсон, область латентного пространства (область пространства, где соседствуют похожие объекты) на карте ИИ, в которой находится Лоаб, находится рядом с жуткими картинками и достаточно изолирована, чтобы любые комбинации с другими изображениями могли использовать из этой области только Лоаб. После достаточного количества скрещиваний изображений и попыток разбавления, Свонсон смогла в конечном итоге сгенерировать изображения без Лоаб, но обнаружила, что скрещивание этих разбавленных изображений также в конечном итоге приводит к повторному появлению версии Лоаб на полученных изображениях.
Свонсон заявила, что «по разным причинам» они отказываются раскрывать программное обеспечение, использованное для создания изображений. Лоаб была названа «первым криптидом, сгенерированным ИИ» и завирусилась в интернете.

Несмотря на то, что сама Свонсон считает криптидный характер находки преувеличением, она признала, что «Лоаб, конечно, не является призраком», но отметила, что миф, возникший вокруг сгенерированного ИИ персонажа, вышел за рамки их изначального вовлечения. Кроме того, поскольку сейчас другие художники создают все больше изображений Лоаб, будущие ИИ, обучившиеся на продуктах их творчества, будут использовать её при генерации новых изображений: «Если мы захотим избавиться от нее, будет уже слишком поздно».