Эксперты рассказали, чем опасен ИИ в промышленности

Летом нынешнего года Госдума приняла в третьем чтении закон об обязательном страховании вреда, причиненного искусственным интеллектом. То есть добровольное страхование стало обязательным.

Наиболее обширную группу составляют риски утечки данных, целостности информации, ущерба репутации, соблюдения нормативных правовых обязательств. Создание и адаптация системы искусственного интеллекта под эффективное решение задач предполагает применение больших объемов данных. То есть поставляемые системой ИИ результаты окажут непосредственное влияние на решение задач бизнеса. Данные, которые применялись изначально в создании системы, а главное — их достоверность — становятся существенными.

Если данные неточны, а контрольных процедур недостаточно, то могут последовать штрафы (например, за раскрытие защищаемых клиентских данных). Велика вероятность утечки конфиденциальных данных в сервисы ИИ, поддерживаемые третьими лицами, включая встроенные (WIndows Copilot). ИИ может заполучит данные о зарплате работников, если эти данные будут подключены для обучения моделей ИИ вне расширения мер контроля доступа.

В случае, когда на ИИ возложена задача прогноза или моделирования, есть опасность принятия ошибочного бизнес-решения из-за некорректного результата. А если моделирование будет выполнено неправильно, это обернется для бизнеса потерей прибылей.

Непредсказуемый ИИ

И тут включается человеческий фактор. ИИ зависит от программистов — вернее, их навыков и профессионализма. От качества написанного ими кода, а также от соблюдаемой ими корпоративной этики. Когда формируется программный модуль, задается рамка вероятного применения и подбирается узкий набор тренировочных данных и/или сценариев тестирования, для которых сложно предусмотреть все возможные будущие варианты и области применения такого кода.

В российских компаниях процветает Shadow IT. Это явление, при котором работники самостоятельно решают, какой приложение выбрать для решения рабочих задач. Причем касается это как мелких задач, так и управления целыми проектами. Увы, не в каждой компании безопасность на высшем уровне. Особенно если речь идет о малом бизнесе. Сотруднику ничего не помешает применить бота или браузерное расширение и сгружать ему данные из клиентской базы и коммерческую информацию.

Так порой удобнее, но тут же данные могут утечь на сторону, а потом всплыть там, где меньше всего ожидаешь.

А еще такой момент: когда ИИ начинает выполнять задачи сотрудников, то последние от них попросту отвыкают. А это значит потерю компетенций в той или иной степени. Сотрудники также начинают безоговорочно доверять машине, а это тоже чревато последствиями.

Цифровизация производства

Но как быть на предприятиях в свете Индустрии 4.0 (трансформация промышленности при внедрении цифровых технологий)? А тут пока выводы делать рано — при стремительном распространении ИИ в мире во всех сферах человеческой жизни, российские промышленники «пускают» цифровизацию на свои предприятия крайне осторожно. Опытной массы в стране еще пока нет, чтобы копаться в примерах и отслеживать тенденции.

«Владельцы промышленных предприятий пока еще не осознали до конца, что цифровые решения способны им показывать прозрачно, как работает их е производство. Гендиректор может годами разводит руками и не понимать, почему при ровных отчетах производительность падает, эффективность не дотягивает и т. д. А внедри он аппаратный мониторинг, может вообще оказаться, что у него ночная смена не работает, приходит чай пить, станки простаивают. И это не анекдот, это реальность, с которой мы сталкивались в своей практике. А вообще цифровизация в корне меняет систему управления, ведь принятие управленческих решений начинает основываться на базе достоверных цифровых данных, а значит, в короткое время корректируется производственно-технологический поток», — поделился гендиректор компании «ПОТОК-7» (работает в том числе в Хабаровском крае) Артем Сеник.

Сами производственники отмечают, что в некоторых сферах сложно в России найти продукт, соответствующий их требованиям. Например, возьмем агропромышленный комплекс. Применяется ли ИИ в тепличном хозяйстве и животноводстве? Да и достаточно активно. А вот в садоводстве уже дела обстоят иначе.

«Искусственный интеллект крайне необходим и в садоводстве, но не применяется в нем. Причина одна — нет адекватного продукта. Создать цифровой двойник сада очень сложно. Сад — организм, сравнимый с человеческим, в нем работает много нервных окончаний. Корневая система находится в почве, в которой меняется химический состав, минерализация, влажность, и другие параметры. Кроме корневой части есть стволовая часть, ветки, лист, плод, которые зависят от солнца и атмосферных изменений. Есть инфекционный фон и влияние насекомых, как положительное, так и отрицательное», — сообщил руководитель компании «Брянский сад» Олег Кобец.

Если сад 10 га, то без ИИ можно обойтись, а если 300 — 400 га, и он вытянут в линию на километры, то нейронная сеть необходима, подчеркнул Олег Кобец.

«Мы отслеживаем предложения на рынке, но пока не видели ни одного, которое объединяло бы все параметры, от баз данных по вредителям и болезням до влияния влаги почвы и влаги листа на периодичность полива. А использование нескольких программных решений, не охватывающих весь сад в комплексе, нецелесообразно. Поэтому мы ждем появления универсальной нейронной сети для садоводов и, если IT-специалисты обратятся к нам за помощью, наши агрономы готовы вести цифровые дневники и предоставить любую информацию для обучения ИИ», — подытожил собеседник.

Впрочем, до ощутимой цифровизации производства, полагает Артем Сеник, осталось несколько лет. Сарафанное радио уже начало работать.