Почему искусственный интеллект может не работать

Две трети крупнейших российских компаний в 2020 году использовали в своей работе искусственный интеллект, еще четверть планируют внедрить технологию в ближайшие годы*. Но применение AI не всегда гарантирует положительный результат, причем происходит это часто из-за одних и тех же ошибок

Самая распространенная ошибка на старте проектов по внедрению искусственного интеллекта в компаниях – отсутствие данных, на которых предполагается строить модели машинного обучения. Они необязательно должны быть сразу готовыми к использованию, ведь зачастую их сначала требуется собрать, очистить и подготовить, но они должны как минимум существовать в природе и быть доступными для сбора за разумное с точки зрения проекта время. Многие компании не хранят данные, которые могут понадобиться для внедрения искусственного интеллекта в тот или иной процесс. Это может увеличить время работ. Например, только чтобы начать копить данные, могут уйти месяцы на доработку систем.

ПРОЦЕСС НЕДОСТАТОЧНО РЕГУЛЯРЕН

Искусственный интеллект плохо предсказывает нерегулярные события, однако этот факт часто игнорируют. Разберем такую ситуацию на примере производства. Представим себе завод, на котором периодически ломаются станки. Это приводит к простоям и, как следствие, к убыткам в виде упущенной выручки. Есть датчики, которые собирают данные о работе станков: в теории это позволяет предсказать поломку. Однако практически любое производственное оборудование не выходит из строя в один момент. Обычно изменения в работе начинаются задолго до поломки станка. Датчики фиксируют сбои в работе и предсказывают полную остановку, что позволяет принять меры. Такие решения известны как predictive maintenance, и в теории их применение в описанном примере кажется очень логичным, однако на практике это приводит к результату далеко не всегда.

На самом деле станки ломаются редко. Поэтому даже при большой истории наблюдений в собранных данных будет мало фактов поломок. Искусственный интеллект не может научиться предсказывать события, которые происходят примерно раз в год. Редкость самого процесса просто не дает набрать необходимое количество прецедентов события, которое нужно предсказывать, а поэтому решать эту задачу методами машинного обучения в такой ситуации не имеет смысла.

ЗАРАНЕЕ НЕ ПОДСЧИТАН ЭКОНОМИЧЕСКИЙ ЭФФЕКТ

Предположим, все прошлые условия соблюдены: собрано достаточное количество данных и работа ведется по процессу, который происходит регулярно и давно. Однако у людей зачастую завышенные ожидания от результата, а искусственный интеллект видится инструментом, который кардинально улучшает любой процесс.

На деле же эффект от внедрения обычно измеряется несколькими процентами прироста к качеству. Например, ритейлер в рамках своего обычного бизнес-процесса предсказывает спрос на товары, чтобы договориться с поставщиками о нужном объеме, организовать логистику и решить прочие вопросы. Прогноз не может быть идеально точным: в случае ошибок товара в магазине будет слишком много и излишек испортится, или наоборот, его будет слишком мало и компания недополучит выручку. Подключение искусственного интеллекта к процессу прогнозирования спроса повысит точность: машина найдёт зависимости в данных, которые человек физически найти не в состоянии. Но не стоит думать, что прогноз будет идеальным, его качество повысится на несколько процентов.

 Искусственный интеллект не может научиться предсказывать события, которые происходят примерно раз в год. Редкость самого процесса просто не дает набрать необходимое количество прецедентов события, которое нужно предсказывать, а поэтому решать эту задачу методами машинного обучения в такой ситуации не имеет смысла

Стоит учесть, что в розничной торговле бывает достаточно увеличить точность прогнозирования даже на один процент, чтобы многократно окупить затраты на внедрение в процесс искусственного интеллекта, потому что в абсолютных значениях это выливается в крупную сумму. А какую выгоду в вашем случае принесет повышение качества оптимизируемого процесса на один процент? И на сколько его реально увеличить? Часто достаточно задать себе эти вопросы до начала работы над задачей, чтобы понять, что решать ее не имеет смысла.

МОДЕЛЬ НЕ ГОТОВА К МАСШТАБИРОВАНИЮ

Прошлые риски показывают, что далеко не любую задачу оправданно решать с помощью искусственного интеллекта. Допустим, что все такие предыдущие варианты отработаны: данные собраны, а оптимизируемый за их счет процесс достаточно регулярен, и даже небольшое повышение его качества даёт внушительный экономический эффект. Но это еще не гарантия успеха, риски существуют и на более поздних этапах. Обычно при любом внедрении проводится пилотный проект, который включает в себя не весь целевой процесс, а какую-то его часть, которой достаточно для расчета эффекта.

 Экономический эффект доказан, технически все работает: казалось бы, что может пойти не так? К сожалению, многие компании только на этом этапе осознают, что искусственный интеллект является частью бизнес-процесса в большинстве случаев намного более сложного, чем казалось на старте внедрения

Допустим, получаемый результат всех устраивает и можно масштабировать модель на весь бизнес. В этот момент может выясниться, что все нужно начинать заново, потому что построенное решение работает только на том проекте, на который оно изначально настраивалось, например из-за объема данных. На пилоте количество информации зачастую меньше, чем в боевых условиях, из-за чего проект может не функционировать, и появляется необходимость пересмотреть архитектуру. Или процесс эксплуатации подразумевает, что в системе могут появляться какие-то новые данные, которых не было во время тестовой модели, — а система к этому не приспособлена. Такие технические различия между пилотом и полноценным использованием могут растянуть внедрение на многие месяцы.

Чтобы этого избежать, нужно продумывать процесс масштабирования заранее, а лучше сразу использовать платформу, предусмотренную для целевого расширения. Тогда не придется тратить дополнительные усилия на переход из пилота в промышленное использование.

НЕГОТОВНОСТЬ К ИЗМЕНЕНИЮ БИЗНЕС-ПРОЦЕССА

Это последнее препятствие по этапности внедрения, но не по значимости. Предположим, решение протестировано и масштабировано на весь технологический или бизнес-процесс компании. Экономический эффект доказан, технически всё работает: казалось бы, что может пойти не так? К сожалению, многие компании только на этом этапе осознают, что искусственный интеллект является частью бизнес-процесса в большинстве случаев намного более сложного, чем казалось на старте внедрения, и требующего взаимодействия разных команд внутри организации. Например, конкретному исполнителю может быть неудобно использовать полученные выводы, потому что для его целей они нужны в другом формате. Или сотрудник не доверяет полученному результату, потому что не понимает, из чего он сложился. В результате люди работают «по старинке», а искусственный интеллект игнорируют.

Чтобы этого избежать, нужно с самого начала понимать, что решение — это не просто проект, а полноценный продукт, оптимизирующий весь процесс, в том числе его часть, не связанную напрямую с данными. Даже самая точная модель не имеет никакой ценности, если ее не используют, — а для этого необходимо проработать весь процесс.

* По данным исследования «ИТ-инфраструктура искусственного интеллекта в России» {https://e.huawei.com/ru/news/ru/2021/202101281622}

Источник: Стимул