Top.Mail.Ru

Наш подход бустит продажи. Вы платите за результат!

Заказать звонок
Телефон отдела продаж:
8 (800) 775-16-41
Наш e-mail:
mail@texterra.ru
Заказать услугу
Репутация компании – как на нее стали влиять нейросети Редакция «Текстерры»
Редакция «Текстерры»

О, вам это понравится! Особенно перспективы, которые мы обозначили в конце этой статьи. Но обо всем по порядку.

На днях голосовая помощница Яндекса «Алиса» описала суть известного мультфильма «Маша и Медведь» в духе какого-то японского аниме. Маша живет одна, так как:

«Она всего лишь призрак убитой девочки, именно поэтому она не растет, и видеть ее могут только животные. Родители же не смогли выдержать потери ребенка и уехали, оставив пустой дом. А мучает Маша Медведя потому, что он и лишил ее жизни».

Такой ответ «Алисы» встревожил уполномоченного по правам ребенка в Санкт-Петербурге Анну Митянину. Выступая в парламенте, она указала на то, что технологии искусственного интеллекта могут негативно влиять на психику и развитие детей.

Действительно: те, кто работает с нейросетями, знают, что выдаваемую ими информацию нужно проверять. Проще говоря, искусственный интеллект может выдумывать то, чего не было.

Дарья Капитонова, SMM-маркетолог TexTerra, специалист по нейросетям:

— Нейросети – это хороший инструмент, который может сэкономить немало времени и усилий. Однако он не может заменить критическое мышление человека и способность формировать собственные суждения. К ответам ИИ очень важно относиться с осторожностью, особенно по темам, требующим экспертных знаний. Не стоит слепо полагаться на алгоритмы, а полученные результаты, содержащие факты, имеет смысл перепроверять. Причиной ошибок, по «словам» самих нейросетей может быть следующее:

Нейросети врут

Но в Яндексе уже заявили, что рассказ про «Машу и Медведя» – единичный случай со стороны «Алисы», и проблема уже устранена.

«"Алиса" в единичных случаях могла ответить некорректно на вопрос o семье главной героини мультфильма "Маша и Медведь". В данный момент она больше так не отвечает. Мы всегда рекомендуем активировать детский режим при общении с "Алисой", чтобы оградить ребенка от нежелательного контента», — цитирует РИА «Новости» объяснение «Яндекса».

Почему нейросети врут

Но зачем врать и выдумывать, спросят некоторые. Нейросети не выдумывают, а берут информацию из открытых источников и, судя по всему, надежность этих источников не всегда им корректно оценивается. Например, кто-то пошутил про мультик на каком-нибудь форуме, а на выходе – доклад уполномоченного по правам ребенка в парламенте. На деле же «Алиса», вероятно (это только наша догадка), подсмотрела сюжет одной из серий аниме «Секрет Машуко», где тоже есть Маша и Медведь, а также Машуко (робот-заяц). Или другое аниме.

«Для части вопросов, на которые "Алиса" не может ответить сама, она берет информацию из открытых источников», – подтвердили в компании.

В случае TexTerra тоже есть сбои. Несмотря на уникальное название и множество информации о нас в открытом доступе, некоторые нейросети (в данном случае – GroqChat) не прочь пофантазировать:

Нейросети про агентство TexTerra

Другие (Claude) признаются, что ничего о нас не знают:

Нейросети про агентство TexTerra

А третьи (YandexGPT) пишут все как есть и весьма корректно:

Нейросети про агентство TexTerra
Продвинем ваш бизнес
Подробнее

Корректность ответов нейросетей – в ваших руках

Случай с «Алисой» – не единичный. Бизнес уже озаботился тем, что искусственный интеллект, отвечая на запросы (промпты) пользователей, порой искажает действительность и может очернять бренды.

Все больше компаний начинают проверять, как их описывают нейросети – чат-боты, такие как ChatGPT, Bard, Perplexity и прочие.

Исполнительный директор компании цифрового маркетинга Jellyfish Джек Смит объясняет, что упоминание брендов происходит без отрыва от слов и фраз, вместе с которыми они встречаются в интернете. Например, вместе с названием лосьона нейросеть может применить слово «нежный».

Если языковая модель (нейросеть) не может связать с продуктом определенный термин или связывает с ним негативные слова, то это происходит лишь потому, что подобное сочетание уже есть где-то в сети (или же никаких сочетаний найдено не было).

Компании не могут изменить то, что нейросети уже «знают» об их брендах. Но могут создавать новый контент и публиковать его. Тогда нейросети, которые постоянно обучаются, со временем начнут менять свои ответы.

«Для поиска ответов нейросети по умолчанию подключаются к открытой сети, они будут поглощать все больше и больше актуального и свежего контента», — говорит мне Смит.

Свежими могут оказаться и негативные отзывы о компании.

«Это почти как поисковая оптимизация, и здесь весело, потому что надо понять, какой тип контента окажет наибольшее влияние на "мнение" нейросети о компании», — говорит Смит.

При этом Смит указывает на то, что формат видео становится все более значимым для самообучения нейросетей – набор типов данных для обучения постоянно расширяется. То есть, помимо текстов нейросети уже учатся на аудио и видео, отследить негатив в которых сложнее, чем в текстах. А на очереди – сбор информации через микрофоны смартфонов и их видеокамеры.

Именно поэтому ChatGPT (версия 3.5) уже не требует от пользователей даже элементарной авторизации – это позволяет собирать информацию, так как в анонимном режиме она не является личными данными. Проще говоря, отменив регистрацию, OpenAI устранил барьер для сбора обучающих данных. Однако в компании отмечают, что пользователи могут отказаться от использования их разговоров в целях обучения нейросети.

И тут компании уже никак не смогут контролировать, что нейросети будут выдавать про их бренды. Например, кто-нибудь будет ругать принтер HP за плохую печать, и все это попадет в ответы нейросетей. Или в объективе камеры окажется кривой стол из Ikea, дымящий автомобиль, кривой зонт и так далее. Тогда компаниям останется только работать на совесть и надеяться на лучшее.

Читайте также:

Лучшая нейросеть на русском для изображений

Gemini от Google – самый мощный конкурент ChatGPT [обновлено]

Отличная замена ChatGPT — нейросеть Claude 3 [обновлено]

Поделиться статьей:

Новое на сайте

24 мая 2024
543
Был «Спам» стал «Слоп» — вот что придумали в сети для названия мусорного контента

А также «Спагетти», «Алкоголик» и «Зомби» — список новых слов, которые используют для Искусственного интеллекта

24 мая 2024
584
Скучно на работе? Вот 3 способа изменить жизнь

Скука на работе делает вас… скучным, а также неинтересным. И в личной жизни тоже. Поэтому гоните в шею ее, скуку эту!

24 мая 2024
43 830
Комьюнити-менеджмент: как это работает? Разбираемся с экспертом

Вы узнаете, кто такой комьюнити-менеджер и почему его ни в коем случае нельзя путать с SMM-щиком или маркетологом.

Смотреть все статьи

У вас есть деловой запрос? Давайте обсудим!

Оставьте свои контакты, мы свяжемся с вами в ближайшее время.

Нажимая на кнопку «Оставить заявку», вы подтверждаете свое согласие на обработку пользовательских данных

Спасибо!

Ваша заявка принята. Мы свяжемся с вами в ближайшее время.