Парадокс алгоритмической легитимности и архитектура ответственности: как избежать ловушек искусственного интеллекта в управлении
Ключевые слова:
искусственный интеллект, управленческие решения, алгоритмическая легитимность, архитектура ответственности, алгоритмический аудит, распределенный контрольАннотация
В статье исследуется парадокс алгоритмической легитимности – противоречие между ростом доверия к искусственному интеллекту в принятии управленческих решений и размыванием ответственности за последствия таких решений. Охарактеризованы типичные сценарии управленческих сбоев при использовании алгоритмических систем в торговле, финансах, управлении персоналом, логистике, государственном управлении и раскрыты причины размывания ответственности: эффект автоматизации, непрозрачность алгоритмических моделей и отсутствие институциональных механизмов контроля. Описана модель «архитектуры ответственности», включающая технический, институциональный, юридический, организационный и образовательный уровни контроля. Предложена классификация систем искусственного интеллекта по уровню автономии и определены соответствующие механизмы контроля, сделан вывод о необходимости перехода от декларативных этических принципов к механизмам распределенного контроля.Скачивания
Библиографические ссылки
Абилова Е.В., Колесник Е.А. Внедрение технологий искусственного интеллекта в HR-процессы // Общество, экономика, управление. 2025. Т. 10. № 3. С. 31-36. DOI 10.47475/2618-9852-2025-10-3-31-36 EDN MKESKO
Атабаева Э.Р. Возможности и риски применения искусственного интеллекта в бизнесе // Экономика и управление: проблемы, решения. 2025. Т. 13. № 3(156). С. 195-202. DOI 10.36871/ek.up.p.r.2025.03.13.022 EDN VQKFHR
Гафурова Г.Т., Нотфуллина Г.Н., Давыдова И.Ш. Робоэдвайзеры vs человеческие управляющие: кто побеждает? // Финансы и кредит. 2025. Т. 31. № 7. С. 162-176. DOI 10.24891/bfwlqc EDN BFWLQC
Добринская Д.Е. Цифровое общество в социологической перспективе // Вестник Московского университета. Серия 18. Социология и политология. 2019. Т. 25. № 4. С. 175-192. DOI 10.24290/1029-3736-2019-25-4-175-192 EDN QPHJEN
Дорф Т.В. К вопросу о применении искусственного интеллекта в управлении персоналом: адаптация, сопровождение, обучение // Друкеровский вестник. 2025. № 3(65). С. 114-128. DOI 10.17213/2312-6469-2025-3-114-128 EDN AVCWUH
Дурович А.П., Гришко Н.И. Возможности и направления применения технологий искусственного интеллекта в управлении персоналом // Труд. Профсоюзы. Общество. 2025. № 1(87). С. 13-22. EDN RIMYFV
Катаева М.Г. Цифровые технологии в управлении персоналом: перспективы и вызовы // Управление персоналом и интеллектуальными ресурсами в России. 2024. Т. 13. № 5. С. 21-27. DOI 10.12737/2305-7807-2024-13-5-21-27 EDN RPJBLU
Комлев Е.Ю., Бирюков И.А. Правовые основы применения технологий искусственного интеллекта в государственном и муниципальном управлении: современное состояние и перспективы развития // Закон и право. 2024. № 5. С. 81-85. DOI 10.24412/2073-3313-2024-5-81-85 EDN BDFUNT
Перспективы и риски применения технологии искусственного интеллекта в корпоративном управлении / [А.В. Фроликов и др.] // Вестник Российского экономического университета имени Г.В. Плеханова. 2025. Т. 22. № 1(139). С. 198-208. DOI 10.21686/2413-2829-2025-1-198-208 EDN DLQPVC
Репин Д.А., Игнатьев С.А. «Внедрять нельзя отказаться»: влияние этики на применение технологий искусственного интеллекта в управлении социально-экономическими процессами // Экономика и управление. 2024. Т. 30. № 12. С. 1503-1509. DOI 10.35854/1998-1627-2024-12-1503-1509 EDN HTFMVH
Соболева Ю.П., Фадеев О.А. Теоретические основы применения технологий искусственного интеллекта в управлении // Образование и наука без границ: фундаментальные и прикладные исследования. 2024. № 20. С. 68-72. DOI 10.36683/FP-20/68-72 EDN OWKKSF
Сурилов М.Н. Исследование потенциала цифровых технологий в совершенствовании мониторинга законодательной базы в сфере образования в Москве // Экономика: вчера, сегодня, завтра. 2024. Т. 14. № 3-1. С. 423-431. EDN TXOFDO
Троян Н.А. Правовые механизмы применения технологий искусственного интеллекта в сфере государственного управления в России и за рубежом // Мониторинг правоприменения. 2024. № 3(52). С. 10-16. DOI 10.24682/2226-0692-2024-3-10-16 EDN JQEPHI
Черноиваненко И.А., Кравец О.Я., Атласов И.В. Математическое обеспечение распределенного управления роем автономных мобильных объектов с применением технологий искусственного интеллекта // Системы управления и информационные технологии. 2025. № 1(99). С. 71-77. EDN ZXNLLK
Biju P.R., Gayathri O. Algorithmic solutions, subjectivity and decision errors: a study of AI accountability // Digital Policy, Regulation and Governance. 2025. Vol. 27. N 5. P. 523-552. DOI 10.1108/DPRG-05-2024-0090
Busuioc M. Accountable Artificial Intelligence: Holding Algorithms to Account // Public Administration Review. 2021. Vol. 81. N 5. P. 825-836. DOI 10.1111/puar.13293
Criado J.I., Sandoval-Almazán R., Gil-Garcia J.R. Artificial intelligence and public administration: Understanding actors, governance, and policy from micro, meso, and macro perspectives // Public Policy and Administration. 2025. Vol. 40. N 2. P. 173-184. DOI 10.1177/09520767241272921
Floridi L. The Ethics of Artificial Intelligence: Principles, Challenges, and Opportunities. Oxford: Oxford University Press, 2023. 288 p.
Henman P. Governing by Algorithms and Algorithmic Governmentality: Towards machinic judgement // The Algorithmic Society: Technology, Power, and Knowledge. Ed. by M. Schuilenburg, R. Peeters. London: Routledge, 2020. P. 19-34. DOI 10.4324/9780429261404
Papagiannidis E., Mikalef P., Conboy K. Responsible artificial intelligence governance: A review and research framework // The Journal of Strategic Information Systems. 2025. Vol. 34. N 2. Article 101885. DOI 10.1016/j.jsis.2024.101885
Waldman A., Martin K. Governing algorithmic decisions: The role of decision importance and governance on perceived legitimacy of algorithmic decisions // Big Data & Society. 2022. Vol. 9. N 1. Article 20539517221100449. DOI 10.1177/20539517221100449
