О проблеме доверия человека-оператора искусственному интеллекту

DOI: 10.25728/avtprom.2022.02.02

Доверие оператора управляемой технике – предпосылка ее безопасной и эффективной эксплуатации. По мере усложнения технических систем, включая все более продвинутую автоматику, а в недалекой перспективе и системы искусственного интеллекта (ИИ), достижение необходимой степени доверия технике становится принципиальным условием цифровой трансформации управления производственными системами. В статье рассматриваются факторы, определяющие доверие или недоверие человека-оператора технике, и анализируются особенности, привносимые в проблему включением в контур управления элементов ИИ. Специальное внимание уделяется индивидуально-психологическим характеристикам оператора, влияющим на степень доверия оператора системам ИИ. Результаты статьи могут рассматриваться как попытка содержательной постановки инженерно-психологической проблемы взаимной адаптации операторов и основанной на ИИ автоматики, повсеместному применению которой нет альтернативы.