В принципе, это было легко предсказать. Любимый жанр нашей юности, крипипаста, обрел вторую жизнь с появлением нейросетей. ИИ еще не вошел в нашу жизнь, но уже стал объектом городских легенд. Самая яркая из них — пугающая «сущность» под названием «Лоаб» (Loab), которая продолжает появляться в сгенерированных нейросетями изображениях.
Ее невольный создатель, художник, работающий под ником Supercomposite, утверждает, что экспериментировал с невинными вещами, а в результате вывел некий паттерн, который превратил его запросы в больные, извращенные и полные уродства картины. Причем на них всегда присутствует образ пугающей женщины, которая всегда остается узнаваемой.
Но даже если не нагнетать и не ударяться в муссирование этой новой городской легенды, история получается прелюбопытная.
Лоаб появилась в результате экспериментов с параметром «отрицательный вес подсказки». Его суть в том, что пользователь пытается заставить ИИ генерировать нечто абсолютно противоположность тому, что он просит.
И начиналось все невинно: Supercomposite попробовал создать противоположность запроса «Брандо». ИИ сгенерировал дурашливый логотип — панорама города с надписью «DIGITA PNTICS».
Окей, уже странно, но вполне мирно и мило. По идее, если взять эту же странную фразу и провернуть тему с «отрицательным весом подсказки», мы вернемся к тому, с чего начали. Должно появиться «Брандо», не так ли?
Но система выдала художнику вот это:
Дальнейшие эксперименты с Лоаб показали, что система всегда выдает нечто жуткое и стремное. И в изображении всегда есть образ женщины, причем в ней всегда есть нечто неуловимо-узнаваемое. «Из-за какой-то возникающей статистической аномалии эта женщина всегда соседствует с чрезвычайно кровавыми и жуткими образами. Весьма пугающая репрезентация знаний ИИ о мире», — пишет Supercomposite.
Больше всего увлекает тот факт, что по мнению ИИ Лоаб — это некий архетип, максимально далекий от какого-то другого архетипа. Но какого, и почему именно Лоаб в этой статистической аномалии оказалась символом абсолютного ужаса?
«Поскольку Лоаб была обнаружена с использованием отрицательных коэффициентов, ее гештальт состоит из набора черт, одинаково далеких от чего-либо. Но ее комбинированные черты по-прежнему являются связной концепцией для ИИ, и почти все изображения ее «потомков» содержат узнаваемую Лоаб».
Вот, к примеру, попытка совместить запросы «Лоаб» и «Ангельская прихожая». Арт получился настолько жутким и кровавым, что сам художник признается, что считает эти два изображения самыми неуютными. «Эти картины расчлененных кричащих детей почти что можно понюхать», — пишет он.
«Вот Лоаб в образе пчелы. А вот Лоаб празднует «месяц Гордости». Лоаб может быть узнаваемо перенесена во многие жанры и контексты».
«Лоаб: древняя»
«Лоаб: первый криптид скрытого пространства. Идеально»
К сожалению, практически невозможно точно узнать, что здесь происходит. Системы ИИ, генерирующие изображения, используют модели, обученные на миллиардах изображений. Они слишком сложны, чтобы понять, почему их работа приводит к тем или иным результатам.
Именно поэтому специалисты по этике ИИ предостерегают от использования больших языковых моделей, подобных той, что используется в DALL-E. Они просто слишком велики, а их результаты слишком непредсказуемы, чтобы надежно предотвратить появление извращенных результатов.
