Алгоритм управления качеством изменений в организационно-производственном процессе с участием ИИ-агента

Авторы: Антамошкин О.А., Жучков Ф.Г., Колосова О.В.

Рассмотрена задача управления качеством изменений в организационно-производственном процессе предприятия, в котором ИИ-агент выступает программным исполнителем, вносящим изменения в цифровые документы, записи и данные процесса. При решении таких задач недостаточно технически правильного выполнения ИИ-агентом поставленной задачи. Важно, были ли соблюдены правила управления изменениями: было ли разрешение на изменение, не вышел ли агент за рамки поставленной задачи, проведены ли необходимые проверки, можно ли отследить историю действий агента, сохранилась ли последняя утверждённая версия документов и соответствует ли отчёт агента тому, что реально изменилось. Для решения этой задачи предложен алгоритм управления качеством изменений, который выявляет события потери управляемости, ограничивает автономное продолжение действий ИИ-агентом, проводит аудит изменений после последнего одобренного состояния и возвращает процесс в контролируемое состояние.

Аффилиация авторов
Жучков Филипп Германович – соискатель,
Колосова Ольга Владимировна – д-р техн. наук, проф., проф. Высшей школы технологического предпринимательства.
Санкт-Петербургский политехнический университет Петра Великого,
Антамошкин Олеслав Александрович – д-р техн. наук, доцент, заведующий кафедрой программной инженерии Института космических и информационных технологий.
Сибирский федеральный университет.

Список литературы
1. Tabassi E. Artificial Intelligence Risk Management Framework (AI RMF 1.0). NIST AI 100-1. Gaithersburg: National Institute of Standards and Technology, 2023.
2. Yao S., Zhao J., Yu D., Du N., Shafran I., Narasimhan K., Cao Y. ReAct: Synergizing Reasoning and Acting in Language Models. ICLR 2023.
3. Kent K., Souppaya M. Guide to Computer Security Log Management. NIST Special Publication 800- 92. Gaithersburg: National Institute of Standards and Technology, 2006.
4. van der Aalst W. M. P. Process Mining: Data Science in Action. 2nd ed. Berlin; Heidelberg: Springer, 2016.
5. Rozinat A., van der Aalst W. M. P. Conformance checking of processes based on monitoring real behavior // Information Systems. 2008. Vol. 33, No. 1. P. 64–95.
6. Raji I. D., Smart A., White R. N. et al. Closing the AI Accountability Gap: Defining an End-to-End Framework for Internal Algorithmic Auditing // Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency (FAT* ’20). New York: ACM, 2020. P. 33–44.

Ключевые слова: аудит изменений, воспроизведение по журналу событий, ИИ-агент, организационно-производственный процесс, управление изменениями, управление качеством

Статья из Автоматизация в промышленности №7/2026

Последний вышедший номер

Читайте в номере:

Автоматизированная система мониторинга тепловой экономичности энергоблока АЭС

Моделирование повреждений в распределительных сетях при неблагоприятных воздействиях с последующим восстановлением (на примере распределительной системы водоснабжения)

Методика выявления базовых динамических параметров 6-осевого промышленного манипулятора

Способ автоматической перегрузки газоперекачивающих агрегатов одного цеха дожимной компрессорной станции

Адрес редакции: 117997, Москва, Профсоюзная ул., д. 65, оф. 360
Телефон: (926) 212-60-97.
E-mail: info@avtprom.ru или avtprom@ipu.ru

Сайт «Автоматизация в промышленности» предназначен для специалистов по промышленной автоматизации: главных инженеров, главных энергетиков, главных механиков, главных метрологов, инженеров служб АСУ ТП, АСУТП, КИПиА, КИП и А, отделов метрологии, отделов автоматизации, отделов главного инженера, специалистов инжиниринговых и внедренческих фирм, менеджеров фирм системных интеграторов, преподавателей вузов, научных работников, сотрудников научно-исследовательских институтов, студентов и аспирантов.

Сайт «Автоматизация в промышленности» неразрывно связан с одноименным журналом, в котором публикуются концептуальные, научно-практические и внедренческие статьи, посвященные промышленным автоматизированным системам, системам управления бизнес-процессов, программному и алгоритмическому обеспечению, техническим средствам автоматизации, вопросам сертификации, описанию промышленных стандартов, а также обзоры зарубежной прессы.

В каждом номере проводится обсуждение актуальных тем по проблемам создания и применения следующего инструментария: интегрированные АСУ, MES, АСУ П, АСУ ТП, SCADA, АСКУЭ, EAM, ТОИР, ERP, LIMS, ЛИУС, распределенные системы управления, РСУ, система управления качеством выпускаемой продукции, промышленные тренажеры, современные методы и алгоритмы управления и моделирования, коммуникационные средства, GSM–связь, РС-совместимые контроллеры, ПК, человеко-машинный интерфейс, встраиваемые системы, Web-технологии, HTML-технологии, числовое программное управление, ЧПУ, виртуальные приборы, виртуальное измерение, беспроводная связь, имитационное моделирование, Ethernet, Internet-технологии, Industry 4.0, Интернет вещей, промышленный Интернет вещей, IIoT, IoT, Четвертая промышленная революция, навигационные системы, роботы, датчики, сенсоры, диагностика клапанов, водоподготовка, экологические системы, производственная безопасность, идентификация, RFID-технологии, машинное зрение, промышленные сети, средства промышленного монтажа, корпуса и конструктивные решения, пневмоавтоматика, ПЛК, программируемые логические контроллеры, интеллектуальные датчики, сервосистемы, системы поддержки принятия решений и т.д.

Вниманию читателей предлагаются подборки по автоматизации следующих отраслей промышленности и народного хозяйства: металлургия, нефтегазовая отрасль, химическая промышленность, транспорт, сельское хозяйство, комбикормовая и перерабатывающая промышленность, автомобилестроение, энергетика, электроэнергетика, жилищно-коммунальное хозяйство, интеллектуальное здание, умный дом, непрерывное производство (рецептурное), дискретное производство, пищевая промышленность и др.