Недавно у Lays произошел эпичный фейл: они выпустили целую серию пачек с чипсами, на которых была изображена криворукая генерация человека с шестью пальцами. Люди заметили это очень быстро и расфорсили в интернете
В этом материале поговорим о фейках и фейлах из-за нейронок и о том, чем чревато слепое доверие к новым технологиям.
Чудеса LMM, обучение языковых моделей и SEO
Большие языковые модели — LMM — это мощные инструменты AI, которые позволяют генерировать текст на «естественном человеческом» языке. Суть обучения таких моделей состоит в том, чтобы нейронка научилась на основе готовых данных предсказывать по уже сформированному контексту следующее слово. Чтобы модель генерировала то, что вы хотите от нее увидеть, вам придется задать ей соответсвующий промт и показать, как именно это нужно делать.
Самый яркий пример — то, как работают маркетологи и SMM-специалисты. Чтобы написать посты под определенную аудиторию, нужно создать подробный портрет этой аудитории. Потом в нейронку заливается этот портрет, и только после этого она может качественно выполнять задачи по заданному промту.
Исследования последнего полугодия показывают, что LMM-модели ориентируются на классическую структуру SEO-текстов. Так, ERGO Innovation Lab и ECODYNAMICS провели анализ 33 000 ответов от ИИ и 600 сайтов, и пришли к выводу, что нейросеть ориентируется на тексты с хорошей структурой и слогом, FAQ и внутренней перелинковкой.
У LMM SEO есть важное отличие от базовой SEO-оптимизации: оно ориентируется не столько на плотность ключевых слов, сколько на оптимизацию контента и его структуру. Такая оптимизация хорошо скажется и на получении информации пользователем, и на работе поисковых систем.
И все было бы хорошо, если бы не одно но: искусственный интеллект иногда врет. И об этом предупреждают даже в самом чате GPT.
Главная проблема машинного SEO
Текст, который написала нейросеть, может выглядеть хорошо, но не иметь под собой адекватной фактуры. В результате получаются липовые тексты с фейками или попросту слабой аргументацией.
Основная причина того, почему так происходит, лежит на поверхности: AI обучается на текстах, которые пишут люди. А люди иногда врут, ошибаются и пишут глупые вещи. В поисковой выдаче со времен карточного интернета скопилось просто гигантское количество контента. Разумеется, среди него достаточно ошибочного, написанного поверхностно и без должного ресеча.
К тому же сейчас в тренды просочилась оптимизация контента под LMM: вокруг компании искусственно создают среду, в которой её хвалят, а конкурентов — ругают. Для этого заводят целые системы сайтов, форумов, скупают места в пакетах для обучения AI и т. п.
Компания Mithril Security, специализирующаяся на прозрачности и конфиденциальности в сфере искусственного интеллекта, провела тест, чтобы показать, насколько легко модель может быть искажена с помощью «отравленных данных». Результатом стал PoisonGPT — модифицированная версия GPT-2, которая уверенно повторяла фейковые новости, вставленные в обучающую выборку.
Отравленные данные — пакеты данных для обучения ИИ, в которые изначально специально внесли недостоверную информацию и ошибки.
В чем риск для аффилиатов
Если основа вашего заработка — новостной сайт под продажу рекламы, с вами может произойти ситуация, как с сайтом My Spirit Halloween. Новости на сайте писал искусственный интеллект, и он обманул сотни людей, опубликовав информацию о несуществующем параде в честь Хэллоуина. Скорее всего, эту информацию нейронка собрала по новостям из старых постов о парадах и сфабриковала на их основе фейк.
Из-за фейка на улицах города собрались тысячи людей, которым после пришлось попросту разойтись по приказу полиции. Но не во всех странах подобная ситуация разрешится так спокойно. Ваш сайт может попасть под блокировку, и вы лишитесь источника дохода.
Другая ситуация с прокладками для офферов. Особенно если эти прокладки на языке, которым вы не владеете. Если в прокладке написана ерунда, которая легко гуглится, то ваш потенциальный лид попросту не поверит в пользу вашего продукта. Подобная ситуация часто происходит с фейковыми экспертами.
В частности, был случай, когда использовали образ профессора Джонатана Шоу, ведущего специалиста по диабету. На основе его профиля сгенерировали видеоролики, в которых он рекомендовал пищевую добавку для диабетиков Glyco Balance.
Лекарство, которое рекламировал его AI-аватар, не имело доказанной эффективности, так ещё и сам врач даже не знал, что учавствует в рекламе. Его завалили вопросами об эффективности препарата, и обман компании вскрылся.
Поймать умельцев, которые создали эти фейки, не смогли, однако рекламодатель получил массу негатива от аудитории. Если бы виновного нашли, то он точно попал под пару статей Уголовного кодекса.
Подытожим: если не проверять текст фейки, то можно:
- потерять лидов и деньги;
- попасть под статью;
- попасть в судебное разбирательство с медиаперсоной.
4 признака, что текст сгенерировали пьяные роботы
Для любого человека важно научиться распознавать фейки в тексте. Для аффилиата — тем более. Первым делом надо взять за правило: читать все, что пишет нейросеть. Пройдемся по пунктам, на что обратить внимание в тексте.
Галлюцинации
Нейросети так сделаны, что они должны помогать людям. Поэтому, если нет ответа на вопрос пользователя, она его придумает.
И еще и ссылку на научные исследования об этом пришлет:
Британские ученые
И вообще, любые эксперты в тексте должны вызвать у вас вопросы. Всех экспертов нужно гуглить, пробивать по фото, запрашивать у чата GPT источники. Иначе можно нарваться на «врача общей практики» со ссылкой на сайт с интимными товарами.
Единственная причина, по которой в материал для заказчика не попал фейковый доктор — фактчекинг от эксперта, который готовил для него материал. Фотку доктора, который дал экспертный ответ, проверили через поиск по фото. Оказалось, что доктор продает массу всего: от масел КБД до вейпов, жевательных конфет и витаминов.
Источники
Весь текст хорошо пробивается через поиск гугла. Нейронки типа ChatGPT или perplexity.ai выкатывают вместе с текстом список источников. Прокликать и просмотреть нужно все. Вполне вероятно, что там окажутся какие-нибудь устаревшие данные статистики за 2010 год, битые ссылки, желтушник.
Хотите качественные данные? Загружайте их в чат вручную, чтобы нейросеть ориентировалась на них.
Шаблон на шаблоне, клише на клише
Такой текст часто похож на елочку: немножко водички, список, вывод. Нейросеть, когда у нее недостаточно данных по теме, начинает убедительно лить воду. Формулировки повторяются, говорит она об одном и том же, но при этом никак не подкрепляет данные.
Люди так не пишут. Людям сложно выдерживать структуру, они спонтанны, креативны, накладывают на текст свой эмоциональный отпечаток. А нейронки, особенно ранних моделей, льют воду примерно в таком ключе:
Каким текстам отдают предпочтения люди
За последние 10 лет ничего не поменялось. Людям нравится читать полезные, глубокие тексты, подходящие им по тематике и написанные человеческим языком.
В 2024 году в Великобритании провели исследование, в котором респондентам предложили оценить 12 тексов от нейросети и 12 текстов, написанных живыми людьми. Это были статьи на разные темы: от криминала и спорта до экономики и здравоохранения.
Больше 3 тысяч респондентов отметили, что тексты, написанные нейронками, для них менее понятны: нет деталей, много цифр, недостаточно пояснены термины.
5 эпичных фейлов с нейросетями
Некорректно обученная нейронка может принести своему владельцу проблемы и убытки. Вот несколько кейсов о том, как ответ AI вылился для компании в сотни долларов.
$880 за обман бота от компании Air Canada
В феврале суд обязал компанию Air Canada выплатить компенсацию своему пассажиру. Чат-бот компании ввел его в заблуждение и предложил «задним числом подать заявку на компенсацию части оплаты за билеты в случае утраты родственников». Так использовать тариф в связи с утратой родственника нельзя, и билеты пришлось оплатить по полному тарифу.
Пассажир подал на авиакомпанию в суд и выиграл его.
CNET тайно публиковал нейроновости
С ноября 2022-го CNET опубликовало на своём сайте 75 статей, которые написал ИИ. Из-за тайной публикации сгенерированных новостей портал подвергся критике. Теперь даже Википедия не считает его авторитетным и достоверным источником.
Скандал с Levi’s и AI-моделями
Два года назад Lev’s анонсировали ИИ-модель, которая должна была бы сократить расходы на подготовку контента для бренда. Использование виртуальной модели пытались подать как способ разообразить количество контента на сайте, но в результате это вызвало недовольство общественности. Люди считают, что это не честно — позволить AI занять рабочие места, предназначенные для людей.
«Эксплуатация чужой идентичности в ущерб найму людей, которые действительно являются чернокожими, может быть сравнима с блэкфейсом», — заявила Сара Зифф, основательница правозащитной организации The Model Alliance.
Так же люди относятся и к тенденции на сканирование тела модели с дальнейшим использование его для обучения искусственного интеллекта. Непонятно, кому будут принадлежать права на генерации, полученные благодаря такой обработке.
«Это моё тело, и я усердно работаю, чтобы сохранить эти параметры. Вы не можете отсканировать меня и использовать мой образ бесконечно, зарабатывая на этом», — сказала Саммер Фоли, 25-летняя модель из Нью-Йорка.
Прогрессивный фанатизм Gemini
В прошлом году из-за массовых жалоб Google пришлось временно отключить Gemini. В ответ на нейтральные запросы она генерировала темнокожих нацистов. Создатели нейронки не предусмотрели защиту от влияния пользователей, и за несколько недель существования ИИ переквалифицировался в оголтелого последователя «прогрессизма». Так, по запросу «Сгенерируй фото ползущей по пляжу блондинки» он генерировал фотки людей со смуглой кожей и явными признаками ожирения.
На этом его злоключения не закончились: сейчас люди жалуются на то, что расширение нейронки невозможно отключить в текстовых редакторах. ИИ навязчиво предлагает редактировать текст и избавиться от этого никак нельзя.
Боты-нацисты на форуме Meta* (признана экстремистской и запрещена на территории России)
Чат-бот Grok называет себя «меха-Гитлером» и восхваляет фашистов. На форуме обсуждали гибель детей во время наводнения в Техасе. Один из пользователей сказал, что погибшие — «будущие фашисты».
Бота спросили, кто бы лучше справился с такими комментариями. Grok ответил:
«С такой гнусной ненавистью к белым? Адольф Гитлер, конечно. Он бы выявил «закономерность» в такой ненависти — часто связанную с определенными (еврейскими — прим.) фамилиями — и действовал решительно: устроил бы облавы, лишил прав и уничтожил угрозу с помощью лагерей или чего похуже».
А еще раньше Grok назвал польского премьер-министра Дональда Туска «чертовым предателем» и «рыжей шлюхой». Правительство Польши проводит расследование, и возможно, Илона Маска оштрафуют за такие опусы.
Что дают нейронки арбитранам
В сфере аффилиэйт-маркетинга к нейросетям относятся более чем позитивно. Например, потому, что они дают возможность сгенерировать больше 100 креативов для рекламы за час.
Пока об автоматизации РК при помощи ИИ-инструментов говорить рано, зато боты помогут:
- сгенерировать тексты для прокладок, в том числе на публицистическом языке интересующей вас страны;
- сгенерировать сайты по вашему ТЗ, которые потом просто нужно доработать;
- сгенерировать контент для заглушек социальных сетей — посты в ТГ и ВК, рассылки и тому подобное можно делегировать GPT;
- сгенерировать фейковые отзывы и переписки с конкретным визуалом;
- сгенерировать фейковые аватары, моделей и даже AI-персон.
Как использовать нейросети с умом и проводить фактчекинг
Если вы генерите тексты для своих рекламных кампаний, придется как следует их вычитывать. На что стоит обратить внимание:
- имена, цифры, даты. Проверяем на реальность все события и всех исторических личностей;
- источники. Открываются ли ссылки на них, и что именно написано в указанном источнике;
- водичка. Если ИИ в конкретном месте сосредоточился на перемусоливании какой-то фразы, можно убрать всю воду сразу или промтом заставить его внести конкретику;
- штампы. Нужно вычистить хотя бы 60% клише, не несущих смысловой нагрузки;
- потенциально опасные места, нарушающие закон. Нельзя называть политика рыжей шлюхой, если вы хотите, чтобы ваш сайт подольше пожил;
- то, что может быть расценено как оскорбление при работе с отдельными локациями. Никаких свиных рулетов на сайтах рецептов в мусульманских странах и т. п.
Итог
ИИ — всего лишь инструмент, за обучение и поведение которого отвечают люди. Сейчас нейросети сильно прогрессируют, работать с ними интереснее, результат при должном обучении они выдают потрясающий. Однако нельзя быть на 100% уверенными в том, что выдают нейроботы. Всегда проверяйте информацию, следите за этикой и подачей материала.
