Philosophy of AI design: Human-in-the-loop and bounded rationality
Аннотация
Философия проектирования ИИ: «человек в контуре» и ограниченная рациональность
О. И. Елхова
В статье рассматриваются философские основания и ограничения рациональности искусственного интеллекта в контексте принятия решений. Автор анализирует различие между эпистемической и практической рациональностью, акцентируя внимание на последней как основе работы рациональных агентов. Центральное место занимает концепция ограниченной рациональности, согласно которой принятие решений осуществляется в условиях неполной информации, когнитивных ограничений и ограниченных вычислительных ресурсов. Обосновано, что идеальная рациональность недостижима, а наиболее адекватной моделью для ИИ является ограниченная рациональность. Рассмотрены четыре типа рациональности: идеальная, вычислительная, ограниченная и ограниченная оптимальность, с выводом о практической применимости именно ограниченной рациональности в разработке интеллектуальных систем. Сделан вывод о практической применимости ограниченного подхода при разработке интеллектуальных систем. Автор отмечает, что необходимо учитывать указанные ограничения при создании адаптивных алгоритмов, а также значимость участия человека в процессе принятия решений для повышения надёжности результатов. Модель «человека в контуре» трактуется не просто как техническая форма взаимодействия, а как выражение ситуационной рациональности, предполагающей учёт контекста, моральных последствий и уникальности каждой конкретной ситуации. Присутствие человека придаёт алгоритмическому мышлению ценностный и интерпретативный характер, восстанавливая связь между рациональностью и практической мудростью (phronesis). В условиях, когда алгоритмы ограничены ресурсами и подвержены ошибкам, именно человек способен выявлять контекстуальные нюансы и осуществлять осмысленную корректировку решений. Таким образом, включение человека в контур является важнейшим фактором, обеспечивающим повышение надежности решений, принимаемых искусственным интеллектом.
Ключевые слова
Полный текст:
PDF (English)Литература
Allo P. (ed.). Putting Information First: Luciano Floridi and the Philosophy of Information. Wiley-Blackwell, 2011. DOI: 10.1002/9781444396836.
Elkhova O. I. Justification of the virtual index in philosophy // СИИТ. 2022. Т. 4, № 2(9). С. 5-12. EDN: EVAIPZ.
Elkhova O. I., Kudryashev A. F. Predicting the development of Artificial Intelligence: nomogenetic perspect // СИИТ. 2023. Т. 5, № 6(15). С. 3-10. EDN: BPPNEN.
Forster V. (2025, Jan. 13). “Artificial intelligence improves breast cancer diagnosis” // Forbes. [Online]. Available: https://www.forbes.com/sites/victoriaforster/2025/01/13/artificial-intelligence-improves-breast-cancer-diagnosis.
Kudryashev A. F., Elkhova O. I. The two-faced Janus of the evolutionary essence of artificial intelligence // СИИТ. 2023. Т. 5, № 1(10). С. 76-83. EDN: QFEPLB.
Russell S. Rationality and Intelligence: A Brief Update // In: Müller V. C. (ed.). Fundamental Issues of Artificial Intelligence. Cham: Springer, 2016. Pp. 7-28. DOI: 10.1007/978-3-319-26485-1_2.
Russell S., Norvig P. Artificial Intelligence: A Modern Approach. Pearson Series in Artificial Intelligence, 2022. URL: https://aima.cs.berkeley.edu/global-index.html.
Simon H. Models of Man: Social and Rational. New York: John Wiley and Sons, Inc., 1957. URL: https://archive.org/ details/modelsofman0000herb.
Tourlakis G. "Gödel's First Incompleteness Theorem via the Halting Problem" // Computability, Springer, 2022, pp. 265-280.
Turing A. "On computable numbers, with an application to the Entscheidungsproblem" // Proc. London Mathematical Society, 1936, vol. 42, pp. 230-265.
Turing A. "Computing machinery and intelligence" // Mind, 1950, vol. 49, pp. 433-460.
“Uber self-driving car kills woman in Arizona” // The Guardian. URL: https://www.theguardian.com/technology/2018/mar/19/uber-self-driving-car-kills-woman-arizona-tempe.
Бабич М. Ю. Понятие рационального агента и многоагентные системы // Проблемы информатики в образовании, управлении, экономике и технике: сб. статей XVII Междунар. науч.-техн. конф. Пенза: ПДЗ, 2017. С. 11-16. EDN: ZQZLIJ.
Елхова О. И., Кудряшев А. Ф. Современные вызовы информационно-коммуникационных технологий // Вестник Самарского государственного технического университета. Серия: Философия. 2024. Т. 6, № 3. С. 27-34. EDN: KRERJY.
Елхова О. И. Метрики феноменологического виртуального опыта // Вестник Российского университета дружбы народов. Серия: Философия. 2024. Т. 28, № 4. С. 997-1013. EDN: JLFZMM.
DOI: https://doi.org/10.54708/2658-5014-SIIT-2025-no4-p93
Ссылки
- На текущий момент ссылки отсутствуют.
(c) 2025 Оxana Igorevna ELKHOVA