В принципе, это было легко предсказать. Любимый жанр нашей юности, крипипаста, обрел вторую жизнь с появлением нейросетей. ИИ еще не вошел в нашу жизнь, но уже стал объектом городских легенд. Самая яркая из них — пугающая «сущность» под названием «Лоаб» (Loab), которая продолжает появляться в сгенерированных нейросетями изображениях.
Ее невольный создатель, художник, работающий под ником Supercomposite, утверждает, что экспериментировал с невинными вещами, а в результате вывел некий паттерн, который превратил его запросы в больные, извращенные и полные уродства картины. Причем на них всегда присутствует образ пугающей женщины, которая всегда остается узнаваемой.
Но даже если не нагнетать и не ударяться в муссирование этой новой городской легенды, история получается прелюбопытная.
Лоаб появилась в результате экспериментов с параметром «отрицательный вес подсказки». Его суть в том, что пользователь пытается заставить ИИ генерировать нечто абсолютно противоположность тому, что он просит.
И начиналось все невинно: Supercomposite попробовал создать противоположность запроса «Брандо». ИИ сгенерировал дурашливый логотип — панорама города с надписью «DIGITA PNTICS».
Окей, уже странно, но вполне мирно и мило. По идее, если взять эту же странную фразу и провернуть тему с «отрицательным весом подсказки», мы вернемся к тому, с чего начали. Должно появиться «Брандо», не так ли?
Но система выдала художнику вот это:
Дальнейшие эксперименты с Лоаб показали, что система всегда выдает нечто жуткое и стремное. И в изображении всегда есть образ женщины, причем в ней всегда есть нечто неуловимо-узнаваемое. «Из-за какой-то возникающей статистической аномалии эта женщина всегда соседствует с чрезвычайно кровавыми и жуткими образами. Весьма пугающая репрезентация знаний ИИ о мире», — пишет Supercomposite.
Больше всего увлекает тот факт, что по мнению ИИ Лоаб — это некий архетип, максимально далекий от какого-то другого архетипа. Но какого, и почему именно Лоаб в этой статистической аномалии оказалась символом абсолютного ужаса?
«Поскольку Лоаб была обнаружена с использованием отрицательных коэффициентов, ее гештальт состоит из набора черт, одинаково далеких от чего-либо. Но ее комбинированные черты по-прежнему являются связной концепцией для ИИ, и почти все изображения ее «потомков» содержат узнаваемую Лоаб».
Вот, к примеру, попытка совместить запросы «Лоаб» и «Ангельская прихожая». Арт получился настолько жутким и кровавым, что сам художник признается, что считает эти два изображения самыми неуютными. «Эти картины расчлененных кричащих детей почти что можно понюхать», — пишет он.
«Вот Лоаб в образе пчелы. А вот Лоаб празднует «месяц Гордости». Лоаб может быть узнаваемо перенесена во многие жанры и контексты».
«Лоаб: древняя»
«Лоаб: первый криптид скрытого пространства. Идеально»
К сожалению, практически невозможно точно узнать, что здесь происходит. Системы ИИ, генерирующие изображения, используют модели, обученные на миллиардах изображений. Они слишком сложны, чтобы понять, почему их работа приводит к тем или иным результатам.
Именно поэтому специалисты по этике ИИ предостерегают от использования больших языковых моделей, подобных той, что используется в DALL-E. Они просто слишком велики, а их результаты слишком непредсказуемы, чтобы надежно предотвратить появление извращенных результатов.
Так пятничная муза завтра же
Это фетиш недели
«мнению ИИ Лоаб — это некий архетип, максимально далекий от какого-то другого архетипа»
Предположение с потолка: в интернете картинок с молодыми красивыми девчонками больше, чем всего остального вместе взятого, и поэтому страшная старая тётка оказывается логически наиболее удалённой от сферического запроса в вакууме
Так. Если предположить, что старая страшная баба-яга это противоположность, то исходное — не молодые красивые девчонки, а молодые красивые мальчонки. В случае с девчонками противоположность — страшный старый пердун.
Думала об этом, но так сова на глобус не натягивается
А это и есть мужик в парике. Все сходится.
а вот тут — хз, чего больше. справочники по судебной мед экспертизе ведь не без фотографий. а за 20й век без убийства людей было всего 9 дней… думается мне, что жести больше. как минимум в общем соотношении, а шо там в интернете превалирует — реально хз
Нейросети учатся на человеческих картинах и фотографиях. Художники и фотографы учатся на ограниченном количестве бесконечно перекопированных примеров. Отсюда — повторяющийся образ (архетип). А крипота — несовершенство нейросетей, приводящее к эффекту «зловещей долины».
художники и фотографы учатся у природы, которая работает по законам физики. вы ничего не понимаете в искусстве
Денис, идите на хер.