Можно ли доверить бизнес ИИ? Подводные камни и риски

Кто проверяет, что публикует ИИ?

Риски ИИ для бизнеса возникают, когда сгенерированный текст или код превращается в обещание клиенту. ИИ может ускорить работу, но ему нужна точная информация о ваших ценах, услугах и правилах. Делегируйте задачи, чётко обозначив границы, предусмотрев проверку человеком и ваше согласование. Договоритесь, кто будет исправлять проблемы после запуска.

Мы - команда Webdelo. К нам обращались клиенты, которые создали сайты с помощью ИИ-инструментов и фрилансеров. Некоторые владельцы не могли точно объяснить, что опубликовано на их собственных сайтах. Если на вашем сайте появилась скидка, которую никто не согласовывал, кто заметит её первым - ваша команда или клиент?

В опросе McKinsey о состоянии ИИ за 2025 год 51 % респондентов из организаций, использующих ИИ, сообщили хотя бы об одном негативном последствии. Это данные об опыте участников опроса, а не доля неудачных проектов или частота ошибок ИИ-инструмента. Их нельзя считать выводом обо всём малом бизнесе.

Когда ограничения ИИ становятся проблемами бизнеса

Основные риски ИИ для бизнеса - коммерческие, юридические, технические и репутационные. Без фактов о бизнесе и проверки правдоподобный ответ может превратиться в ошибку, доступную всем. Это категории для проверки, а не статистический рейтинг опасности.

Коммерческие риски: предложение, которое вы не согласовывали

Контент, созданный ИИ, может содержать скидку или пакет услуг, которые ваш бизнес никогда не соглашался предоставлять. Клиент, который рассчитывает на такое предложение, может ожидать, что вы выполните обещание. А вашим сотрудникам придётся объяснять несоответствие.

В интернет маркетинге одно и то же предложение может появиться на посадочной странице и в рекламных сообщениях. Храните согласованную версию предложения с условиями и сроком действия, чтобы во всех каналах использовались одни и те же факты.

Юридические риски: утверждения, согласие и ответственность

В США объективные рекламные утверждения должны быть подкреплены доказательствами. Рекомендации Федеральной торговой комиссии США (FTC) по рекламе разграничивают фактические утверждения и субъективные преувеличения, которые часто называют puffery. Назвать компанию "лучшей" не означает автоматически нарушить закон. Важны смысл, контекст и отраслевые правила.

Голосовая автоматизация требует отдельной юридической проверки. В постановлении FCC 24-17 от февраля 2024 года Федеральная комиссия по связи США (FCC) подтвердила, что голоса, созданные ИИ, считаются искусственными в рамках Закона о защите потребителей телефонных услуг (TCPA). Рекламные и телемаркетинговые звонки с искусственным голосом, на которые распространяется этот закон, обычно требуют предварительного явно выраженного письменного согласия. При этом учитываются предусмотренные законом исключения.

Юридическая ответственность зависит от применимого законодательства, фактических обстоятельств и договора. Она может распределяться между сторонами. Рассмотренные здесь правила США не дают разрешения размещать рекламу или звонить клиентам в Германии и других странах ЕС. Для этих рынков перед запуском нужно отдельно проверить местные требования.

Технические риски: демонстрация работает, а операции дают сбой

Код, написанный ИИ, может выглядеть убедительно, но неправильно обрабатывать реальную операцию. Например, в интернет-магазине повторная попытка оплаты может создать дубликат заказа. Это пример возможного сбоя, а не случай из практики клиентов Webdelo.

Разработчик, знакомый с проектом, должен проверить код и протестировать сценарии сбоев. Контроль качества включает не только проверку обычного процесса покупки. Нужно также выяснить, что происходит при сбое оплаты или когда внешний сервис перестаёт отвечать.

Репутационные риски: уверенные, но неверные утверждения

Галлюцинации ИИ - это правдоподобные утверждения, которые неверны или выдуманы. Сайт может описывать услугу, которую ваши сотрудники не оказывают. Общие формулировки также могут скрыть детали, по которым клиенты судят о вашем реальном опыте.

Контент для сео продвижения сайтов, то есть поисковой оптимизации, требует такой же проверки фактов, как любая продающая страница. То же относится к продвижению в Ai, которое помогает сделать компанию заметнее в ответах ИИ. Ни одно из этих направлений не гарантирует позиции в поиске или цитирование ИИ.

Ошибки ИИ, которые клиенты воспринимают всерьёз

Среди ошибок ИИ, с которыми сталкивались наши клиенты, были несогласованные предложения и неточные описания услуг. Покупатели воспринимают такие утверждения как информацию от компании. Следующие обезличенные ситуации приведены из интервью с сооснователем Webdelo Андреем Жуматием.

Акции, которые владелец не согласовывал

На сайте клиента появились коммерческие предложения и акции, на которые владелец не давал согласия. Посетители стали просить услуги по цене в несколько раз ниже реальной и ссылались на сайт. Опубликованное предложение давало им конкретное основание рассчитывать на другие условия.

"Лучшие" без согласованного обоснования

В тексте другого клиента компанию назвали "лучшей", не согласовав, чем подкреплена эта формулировка. Практический вопрос был простым: что означало это утверждение и мог ли владелец его объяснить? Фактическое описание услуги дало бы читателям более понятную основу для оценки.

Лечение, которое врач не проводил

В медицинском проекте сайт описывал метод лечения, который врач не применял. Пациент пришёл с запросом именно на этот метод. Проверка специалистом должна была подтвердить, что текст соответствует реальной практике врача.

Примеры для проверки: магазины, чат-боты и звонки

Сценарии ниже - примеры для планирования проверок, а не дополнительные кейсы клиентов. Предложенные роли при согласовании описывают порядок проверки. Они не определяют юридическую ответственность.

Для кампаний в США прежние отношения с клиентом не означают безусловного разрешения на звонки с ИИ. Рекомендации FTC по соблюдению правил телемаркетинговых продаж описывают исключение из правил национального реестра запрета звонков для звонков живых продавцов на основании существующих деловых отношений. В частности, речь идёт о сроках в 18 месяцев после сделки, отвечающей установленным условиям, и три месяца после запроса или заявки. Просьба не получать звонки от конкретной компании отменяет это исключение.

Эти сроки не дают разрешения на звонки с искусственным голосом. Перед началом кампании отдельно проверьте:

• Требования к согласию с учётом цели звонка и используемой технологии.
• Обработку отказов от звонков и просьб не звонить от конкретной компании.
• Разрешённое время звонков.
• Федеральные требования, законы штатов и отраслевые нормы.

Управление рисками ИИ начинается с ваших обещаний

Для проверки многих рисков ИИ в материалах для клиентов не нужны технические навыки. Прочитайте материал глазами клиента, а затем сравните обещания с тем, что ваш бизнес действительно предоставляет. Попросите квалифицированного специалиста проверить утверждения, которые выходят за рамки ваших знаний.

На корпоративном сайте описания услуг заслуживают такого же внимания, как цены. Знакома ли вашим сотрудникам каждая указанная услуга? Смогут ли они оказать её на опубликованных условиях?

• Предложения: проверьте цены, скидки, условия участия и сроки действия.
• Утверждения: спросите, чем подкреплены формулировки вроде "самый быстрый" или "гарантированный результат".
• Специализированная информация: попросите профильного медицинского, юридического или финансового специалиста подтвердить её точность.
• Доступ к публикации: выясните, кто может менять сайт и кто разрешает публикацию.
• Данные бизнеса: спросите, какие клиентские или конфиденциальные сведения попадают в ИИ-инструменты и у кого есть к ним доступ.

Перед согласованием попросите показать предварительную версию самой страницы. Даже корректный черновик может ввести в заблуждение в сочетании с заголовком, ценой или кнопкой.

Чётко определите ответственность за работу с ИИ

Ответственность за работу с ИИ становится конкретной, когда подрядчик указывает, кто проверяет результат, что согласовываете вы и кто решает проблемы после запуска. Попросите понятно объяснить процесс и письменно закрепить обязанности. Профильные навыки проверяющего важнее размера команды.

• Где вы используете ИИ? Отдельно спросите о контенте, коде и автоматизации взаимодействия с клиентами.
• Кто проверяет его результаты? Спросите, что именно проверяют и как фиксируют нерешённые вопросы.
• Как вы собираете факты о нашем бизнесе? Выясните, где хранится утверждённая информация и как изменения доводят до проектной команды.
• Что согласовываем мы? Договоритесь об этапах проверки и о том, как фиксируется согласование перед публикацией.
• Что происходит после запуска? Уточните, как связаться с командой, что входит в поддержку и как решаются срочные проблемы.

Полезный ответ описывает конкретную работу: разработчик тестирует сбои при оформлении заказа, редактор проверяет утверждения, а владелец согласовывает коммерческие условия. Фраза "мы всё проверяем" оставляет слишком много неясностей. Закрепите согласованное распределение задач в договоре или описании объёма работ.

Как мы сохраняем контроль человека в работе

В Webdelo работа с ИИ начинается с фактов о бизнесе клиента и включает проверку человеком и согласование с клиентом. Мы ведём инструкции по проекту и используем ИИ, чтобы сверять с ними результаты. Поддержка продолжается в согласованном объёме, а сроки зависят от проблемы и необходимых работ.

Интервью и база знаний проекта

Мы проводим интервью с клиентом, чтобы уточнить услуги и коммерческие условия. У каждого проекта есть база знаний о бизнесе: общий источник фактов и инструкций для работы. На него опираются проверяющие, когда оценивают, соответствует ли сгенерированное утверждение проекту.

При разработке сайтов этот контекст помогает связать обещания на странице с тем, что должен делать продукт. Предложению нужны и точная формулировка, и работающий путь клиента.

Критическая проверка и вычитка человеком

В нашем процессе обязанности по критической проверке, рецензированию и координации разделены. Мы используем ИИ, чтобы сравнивать результаты с инструкциями проекта. Вычитка человеком обязательна: она помогает находить смысловые ошибки и убирать шаблонные формулировки.

Так на практике устроен подход с участием человека: человек читает результат до его приёмки. Автоматическая проверка помогает ему оценить работу. Она не подтверждает правильность каждого утверждения.

Согласование с клиентом и дальнейшая поддержка

Мы сообщаем клиентам об этапах работы и просим проверять и согласовывать результаты. Их участие необходимо, чтобы подтвердить детали бизнеса, которые внешняя команда не может надёжно определить сама.

После запуска мы остаёмся на связи, чтобы исправлять проблемы, вносить изменения и при необходимости восстанавливать работу. Условия реагирования и восстановления зависят от согласованного объёма работ и задачи. Мы стремимся действовать оперативно, но не обещаем полного отсутствия ошибок или мгновенного восстановления.

Короткий чек-лист перед публикацией или запуском

Перед запуском результатов работы с ИИ проверьте обещания бизнеса, технические проверки и договорённости о поддержке. Зафиксируйте все нерешённые вопросы и определите, кто должен закрыть их до публикации.

• Цены, предложения и акции согласованы с вами.
• Фактические утверждения о качестве подкреплены доказательствами.
• Описания профильных услуг соответствуют тому, что специалист действительно предоставляет.
• Человек протестировал формы, платежи и необходимые интеграции.
• Для ботов и кампаний обзвона предусмотрены проверки согласия и отказов с учётом целевого рынка.
• Вы проверили версию, которую увидят клиенты, и разрешили публикацию.
• Вы знаете, кто решает проблемы после запуска и как с ним связаться.

Обсудите разработку, поддержку и продвижение с Webdelo

Продуктивное обсуждение проекта помогает до начала работ определить обязанности, ваше участие и этапы проверки. Разработка, дальнейшая поддержка и продвижение должны опираться на точную информацию о бизнесе и понятные правила согласования.

Обсудите свой проект с Webdelo, чтобы мы могли вместе разобрать, как будут проверяться результаты, что будете согласовывать вы и какая поддержка вам нужна. Мы согласуем объём работ и обязанности, прежде чем брать на себя обязательства по срокам выполнения или условиям поддержки.

Оставьте бизнес-решения за теми, кто знает дело

ИИ может помогать выполнять задачи, а люди, знающие бизнес, должны сохранять контроль над обещаниями и решениями о запуске. Опыт наших клиентов показывает, как короткое несогласованное утверждение создаёт реальное ожидание у покупателя. Чёткое распределение обязанностей по проверке и работающий процесс исправлений снижают этот риск.

Начните с обещаний на собственном сайте. Выясните, кто их проверил, что вы согласовали и кто поможет, если что-то понадобится исправить.

Часто задаваемые вопросы

Можно ли доверить бизнес-задачи ИИ?

ИИ может ускорить подготовку текстов или кода, если работает с точными данными о ваших ценах, услугах и правилах. Но предложения, описания услуг и другие обещания клиентам всё равно должен проверить человек, а перед публикацией их согласуете вы. Заранее договоритесь, кто будет исправлять проблемы после запуска.

Кто отвечает, если ошибка ИИ на сайте привела к убыткам?

Юридическая ответственность зависит от применимого закона, фактических обстоятельств и договора. Она может распределяться между компанией, исполнителем и другими сторонами. Клиенты обычно воспринимают опубликованное предложение как слова самой компании, поэтому несогласованная скидка может вызвать у них ожидание таких условий. Закрепите в договоре, кто проверяет материалы, кто согласует публикацию и кто исправляет ошибки после запуска.

Нужно ли вычитывать текст, написанный ИИ?

Да. ИИ может выдавать правдоподобные, но неверные или выдуманные утверждения, их называют галлюцинациями, а также шаблонные фразы, за которыми не видно вашей реальной экспертизы. Человек должен проверить цены, формулировки вроде "лучшие" и профессиональную информацию, лучше вместе с профильным специалистом: врачом, юристом или финансистом. Посмотрите и итоговую страницу целиком: верный черновик может вводить в заблуждение рядом с заголовком или ценником.

Как проверить код, написанный ИИ, перед запуском?

Код должен проверить разработчик, который знает проект, и протестировать как обычный сценарий, так и сбои. Важно проверить, что произойдёт, если платёж не прошёл, внешний сервис перестал отвечать или два покупателя одновременно заказали последний товар. Попросите исполнителя показать результаты тестов и список нерешённых проблем до того, как вы согласуете запуск.

Можно ли использовать чат-ботов и обзвоны с ИИ для общения с клиентами?

Чат-бот должен отвечать только по согласованным источникам, например по вашим реальным условиям возврата, а неясные вопросы передавать человеку. Для обзвонов с ИИ отдельно проверяют согласие клиентов, обработку отказов, допустимые часы звонков и отраслевые ограничения целевого рынка. Прежние покупки клиента сами по себе не дают права на звонки искусственным голосом, поэтому перед запуском кампании нужна юридическая проверка.

Зачем нужна команда, если ИИ уже выполняет работу?

Команда даёт бизнес-контекст, проверяет результат и исправляет последствия ошибок. На практике это интервью с владельцем об услугах и условиях, база знаний проекта, вычитка текстов, тестирование сбоев оплаты и поддержка после запуска. Такой контроль человека снижает риск ошибок, но не гарантирует, что их не будет совсем.

Как выбрать исполнителя для сайта или ПО, сделанных с помощью ИИ?

Спросите, где исполнитель использует ИИ, кто проверяет результат, как собираются данные о вашем бизнесе и что вы согласуете перед публикацией. Хороший ответ описывает конкретную работу: разработчик тестирует сбои оплаты, редактор проверяет утверждения. Важнее профильные навыки проверяющих, а не размер команды. Уточните объём поддержки и порядок связи при срочных проблемах, а договорённости об обязанностях закрепите в договоре или описании проекта.