ecsocmenusИзвестия Юго-Западного государственного университета. Серия: Экономика. Социология. МенеджментProceedings of the Southwest State University. Series: Economics. Sociology. Management2223-1552Юго-Западный государственный университет10.21869/2223-1552-2024-14-5-60-73ecsocmenus-825Research ArticleГОСУДАРСТВО И БИЗНЕС НА ПУТИ ЦИФРОВОЙ ТРАНСФОРМАЦИИTHE GOVERNMENT AND BUSINESS ON THE PATH OF THE DIGITAL TRANSFORMATIONВлияние искусственного интеллекта на экономическое развитие: этические аспекты внедрения и разработки технологийThe impact of artificial intelligence on economic development: ethical aspects of technology implementation and developmenthttps://orcid.org/0000-0002-8396-6657МальцеваИ. Ф.MaltsevaI. F.

Мальцева Ирина Федоровна, кандидат экономических наук, доцент кафедры региональной экономики и менеджмента

Researcher ID: O-3179-2015 

ул. 50 лет Октября, д. 94, г. Курск 305040 

Irina F. Maltseva, Candidate of Sciences (Economics), Associate Professor of the Department of Regional Economics and Management

Researcher ID: O-3179-2015 

50 Let Oktyabrya Str. 94, Kursk 305040 

irina-fedorovna@inbox.ruСазоноваЕ. С.SazonovaE. S.

Сазонова Елизавета Сергеевна, магистрант кафедры философии и социологии 

ул. 50 лет Октября, д. 94, г. Курск 305040 

Elizaveta S. Sazonova, Undergraduate of the Department of Philosophy and Sociology 

50 Let Oktyabrya Str. 94, Kursk 305040 

sazonova.lizaa@yandex.ruЮго-Западный государственный университетSouthwest State University2024061220241456073Copyright © Мальцева И.Ф., Сазонова Е.С., 20242024Мальцева И.Ф., Сазонова Е.С.Maltseva I.F., Sazonova E.S.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://ecsocmenus.elpub.ru/jour/article/view/825

Актуальность. Цифровизация является одним из главных приоритетов экономики. Технологии машинного обучения и искусственного интеллекта внедряются передовыми компаниями в производственные и управленческие процессы, меняя характер деятельности и способы ведения бизнеса. Возникают новые вопросы, связанные с законодательным регулированием технологий, распределением зон ответственности между человеком и роботизированными системами, появляются правовые отношения, не предусмотренные нормативными рамками. Технологическое развитие ведет также к глубокой трансформации общества. Новые механизмы взаимодействия порождают ряд этических вопросов. В связи с этим тема исследований внедрения искусственного интеллекта становится все более популярной в научной среде.Цель статьи ‒ изучить особенности внедрения цифровых систем, в том числе на основе искусственного интеллекта, а также систематизировать этические проблемы использования таких технологий.Задачи: проанализировать нормативно-правовую базу регулирования систем искусственного интеллекта; определить базовые принципы его разработки и внедрения; рассмотреть основные проблемы, возникающие в связи с расширением сферы применения искусственного интеллекта, а также варианты их решения.Методология. Для достижения поставленной цели в исследовании применялись методы системного анализа и синтеза, библиографического анализа. Информационной базой исследования послужили труды отечественных и зарубежных ученых, посвященные ИИ, нормативная база федерального и регионального уровня, материалы научных журналов и конференций.Результаты. В статье приведен литературный обзор современных научных исследований, посвященных этическим вопросам внедрения ИИ, рассмотрены основные нормативные акты, применяемые как в международной практике, так и разработанные в России.Выводы. На основе проведенного анализа представлена систематизация принципов и этических проблем внедрения систем искусственного интеллекта. При имеющихся преимуществах использования новой технологии необходимо создавать законодательную и институциональную основу, способствующую минимизации рисков и содействующую достижению целей устойчивого развития.

Relevance. Digitalization is one of the main priorities of the economy. Machine learning and artificial intelligence technologies are introduced by advanced companies into production and management processes, and change the nature of their activities and the way they do business. New issues related to the legislative regulation of technologies, the distribution of areas of responsibility between humans and robotic systems arise, and legal relations that are not provided for by the regulatory framework appear. Technological development also leads to a profound transformation of society. New mechanisms of interaction raise a number of ethical issues. In this regard, the topic of research on the introduction of artificial intelligence is becoming increasingly popular in the scientific community.The purpose of the article is to study the features of the introduction of digital systems, including those which are based on artificial intelligence, as well as to systematize the ethical problems of using such technologies.Objectives: analyze the regulatory framework for the regulation of artificial intelligence systems, determine the basic principles of its development and implementation, consider the main problems arising in connection with the expansion of the scope of artificial intelligence, as well as options for their solutions.Methodology. To achieve the goal in the research are used methods of system analysis and synthesis, bibliographic analysis. The works of domestic and foreign scientists devoted to AI, the regulatory framework of the federal and regional levels, materials of scientific journals and conferences have become the information base of the study.Results. A literary review of modern scientific research on ethical issues of implementation is presented in the article, the main normative acts used both in international practice and developed in Russia are considered.Conclusions. The systematization of the principles and ethical problems of the introduction of artificial intelligence systems based on the analysis are presented. The use of new technology has advantages, but it is necessary to create a legislative and institutional framework that will minimize risks and achieve sustainable development goals.

искусственный интеллектмашинное обучениеэтические проблемыцифровая трансформациязаконодательное регулированиеartificial intelligencemachine learningethical issuesdigital transformationlegislative regulationРабота выполнена в рамках реализации программы развития ФГБОУ ВО «Юго-Западный государственный университет» проекта «Приоритет ‒ 2030».The work was carried out within the framework of the implementation of the development program of the Southwest State University of the Priority 2030 projectReferencesНовиков Ф. А. Символический искусственный интеллект: математические основы представления знаний. М.: Юрайт, 2024. 278 с.Novikov F.A. Symbolic artificial intelligence: mathematical foundations of knowledge representation. Moscow: Yurait; 2024. 278 p. (In Russ.)Поспелов Д. А. Моделирование рассуждений. Опыт анализа мыслительных актов. М.: Радио и связь, 1989. 184 c.Pospelov D.A. Modeling reasoning. Experience in analyzing mental acts. Moscow: Radio i svyaz'; 1989. 184 p. (In Russ.)Exploring ethics and human rights in artificial intelligence – A Delphi study / B. C. Stahl [et al.] // Technol Forecast Soc Change. 2023. Vol. 191. P. 122502. https://doi.org/10.1016/j.techfore.2023.122502Stahl B.C., et al. Exploring ethics and human rights in artificial intelligence – A Delphi study. Technol Forecast Soc Change. 2023;191:122502. https://doi.org/10.1016/j.techfore.2023.122502Романов Р. В. Классические концепции решения проблем искусственного интеллекта (философский аспект) // Преподаватель ХХI век. 2012. № 3. С. 241‒247.Romanov R.V. Classical concepts of solving artificial intelligence problems (philosophical aspect). Prepodavatel' ХХI vek = Teacher of the XXI Century. 2012;(3):241‒247. (In Russ.)Канышева О. А. Учение Рене Декарта о душе и сознании // Вестник Воронежского государственного университета. Серия: Философия. 2021. № 3. С. 99-107.Kanysheva O.A. The teachings of Rene Descartes on the soul and consciousness. Vestnik Voronezhskogo gosudarstvennogo universiteta. Seriya: Filosofiya = Bulletin of the Voronezh State University. Series: Philosophy. 2021;(3):99-107. (In Russ.)A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence / J. McCarthy [et al.] // AI Magazine. 2006. N. 27(4).McCarthy J., et al. A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence. AI Magazine. 2006;(27).Rai A., Sarker S. Editor’s Comments Next-Generation Digital Platforms: Toward Human-AI Hybrids // MIS Quarterly. 2019. Vol. 43, N 1. P. 1‒7.Rai A., Sarker S. Editor’s Comments Next-Generation Digital Platforms: Toward Human-AI Hybrids. MIS Quarterly. 2019;43(1):1‒7.Синельникова А. П. Сможет ли искусственный интеллект заменить человека? // Вестник науки. 2020. № 2(23). С. 77‒79.Sinelnikova A.P. Will artificial intelligence be able to replace humans? Vestnik nauki = Bulletin of Science. 2020;(2):77-79. (In Russ.)Barcaui A., Monat A. Who is better in project planning? Generative artificial intelligence or project managers? // Project Leadership and Society. 2023. Vol. 4. P. 100101. https://doi.org/10.1016/j.plas.2023.100101Barcaui A., Monat A. Who is better in project planning? Generative artificial intelligence or project managers? Project Leadership and Society. 2023;4:100101. https://doi.org/10.1016/j.plas.2023.100101Generative artificial intelligence as a new context for management theories: analysis of ChatGPT / P. Korzynski [et al.] // Central European Management Journal. 2023. Vol. 31, N 1. P. 0091. https://doi.org/10.1108/CEMJ-02-2023-0091Korzynski P., et al. Generative artificial intelligence as a new context for management theories: analysis of ChatGPT. Central European Management Journal. 2023;31(1):0091. https://doi.org/10.1108/CEMJ-02-2023-0091Nieto-Rodriguez A., Vargas R. How AI Will Transform Project Management // PM World Journal. 2023. P. 1‒2. URL: https://pmworldlibrary.net/wp-content/uploads/2023/02/230224-hbr-how-ai-will-transform-project-management-publishing-news.pdf (дата обращения: 27.07.2024).Nieto-Rodriguez A., Vargas R. How AI Will Transform Project Management. PM World Journal. 2023. P. 1‒2. Available at: https://pmworldlibrary.net/wp-content/uploads/2023/02/230224-hbr-how-ai-will-transform-project-management-publishing-news.pdf (accessed 27.07.2024).Mantelero A., Esposito M. S. An evidence-based methodology for human rights impact assessment (HRIA) in the development of AI data-intensive systems // Computer Law & Security Review. 2021. Vol. 41. P. 105561. https://doi.org/10.1016/j.clsr.2021.105561Mantelero A., Esposito M.S. An evidence-based methodology for human rights impact assessment (HRIA) in the development of AI data-intensive systems. Computer Law & Security Review. 2021;41:105561. https://doi.org/10.1016/j.clsr.2021.1055612024 Регламент Европейского Союза об искусственном интеллекте, АНО «Цифровая экономика». URL: https://ai.gov.ru/knowledgebase/dokumenty-po-razvitiyu-ii-v-drugikhstranakh/2024_reglament_evropeyskogo_soyuza_ob_iskusstvennom_intellekte_ano_cifrovaya_ekonomika_/ (дата обращения: 24.07.2024).2024 Regulation of the European Union on Artificial Intelligence, ANO "Digital Economy". Available at: https://ai.gov.ru/knowledgebase/dokumenty-po-razvitiyu-ii-v-drugikhstranakh/2024_reglament_evropeyskogo_soyuza_ob_iskusstvennom_intellekte_ano_cifrovaya_ekonomika_/ (accessed 24.07.2024).Lance B. Eliot. Responsible AI Relishes Preeminent Boost Via AI Ethics Proclamation By Top Professional Society The ACM // Forbes. URL: https://www.forbes.com/sites/lanceeliot/2022/11/27/responsible-ai-relishes-mighty-boost-via-ai-ethics-proclamation-rolled-out-byesteemed-computing-profession-association-the-acm/ (дата обращения: 24.07.2024).Lance B. Eliot. Responsible AI Relishes Preeminent Boost Via AI Ethics Proclamation By Top Professional Society The ACM. Forbes. Available at: https://www.forbes.com/sites/lanceeliot/2022/11/27/responsible-ai-relishes-mighty-boost-via-ai-ethics-proclamation-rolledout-by-esteemed-computing-profession-association-the-acm/ (accessed 24.07.2024).Hallamaa J., Kalliokoski T. AI Ethics as Applied Ethics // Front. Comput. Sci. 2022. Vol. 4. P. 776837. https://doi.org/10.3389/fcomp.2022.776837Hallamaa J., Kalliokoski T. AI Ethics as Applied Ethics. Front. Comput. Sci. 2022;4:776837. https://doi.org/10.3389/fcomp.2022.776837Bentham J. An introduction to the principles of morals and legislation. Oxford: Clarendon Press, 1907. URL: https://www.econlib.org/library/Bentham/bnthPML.html (дата обращения: 26.07.2024).Bentham J. An introduction to the principles of morals and legislation. Oxford: Clarendon Press; 1907. Available at: https://www.econlib.org/library/Bentham/bnthPML.html (accessed 26.07.2024).Rigotti C., Fosch-Villaronga E. Fairness, AI & recruitment // Computer Law & Security Review. 2024. Vol. 53. P. 105966. https://doi.org/10.1016/j.clsr.2024.105966Rigotti C., Fosch-Villaronga E. Fairness, AI & recruitment. Computer Law & Security Review. 2024;53:105966. https://doi.org/10.1016/j.clsr.2024.1059662023 Базовые модели, такие как ChatGPT, через призму Рекомендации ЮНЕСКО по этике искусственного интеллекта. URL: https://ai.gov.ru/knowledgebase/mezhdunarodnyedokumenty-po-razvitiyuii/2023_bazovye_modeli_takie_kak_chatgpt_cherez_prizmu_rekomenda-cii_yunesko_po_etike_iskusstvennogo_intellekta_foundation_models_such_as_chatgpt_through_the_prism_of_the_unesco_recommendation_on_the_ethics_of_artificial_intelligence_yunesko/ (дата обращения: 26.07.2024).2023 Basic models such as ChatGPT, through the prism of the UNESCO Recommendation on the Ethics of Artificial Intelligence. Available at: https://ai.gov.ru/knowledgebase/mezhdunarodnye-dokumenty-po-razvitiyuii/2023_bazovye_modeli_takie_kak_chatgpt_cherez_prizmu_rekomenda-cii_yunesko_po_etike_iskusstvennogo_intellekta_foundation_models_such_as_chatgpt_through_the_prism_of_the_unesco_recommendation_on_the_ethics_of_artificial_intelligence_yunesko/ (accessed 26.07.2024).Wang X., Chen M., Chen N. How artificial intelligence affects the labour force employment structure from the perspective of industrial structure optimisation // Heliyon. 2024. Vol. 10, N 5. P. e26686. https://doi.org/10.1016/j.heliyon.2024.e26686Wang X., Chen M., Chen N. How artificial intelligence affects the labour force employment structure from the perspective of industrial structure optimization. Heliyon. 2024;10(5):e26686. https://doi.org/10.1016/j.heliyon.2024.e26686Акьюлов Р. И., Сковпень А. А. Роль искусственного интеллекта в трансформации современного рынка труда // Дискуссия. 2019. Вып. 94. С. 30‒40.Ak'yulov R.I., Skovpen' A.A. The role of artificial intelligence in the transformation of the modern labor market. Diskussiya = Discussion. 2019;(94):30‒40. (In Russ.)Privacy and personal data risk governance for generative artificial intelligence: A Chinese perspective / Xiongbiao Ye, Yuhong Yan, Jia Li, Bo Jiang // Telecomm Policy. Central China Normal University. 2024. P. 102851. https://doi.org/10.1016/j.telpol.2024.102851Xiongbiao Ye, Yuhong Yan, Jia Li, Bo Jiang. Privacy and personal data risk governance for generative artificial intelligence: A Chinese perspective. Telecomm Policy. Central China Normal University. 2024. P. 102851. https://doi.org/10.1016/j.telpol.2024.102851Chauhan C., Gullapalli R. R. Ethics of AI in Pathology // Am. J. Pathol. 2021. Vol. 191, N 10. P. 1673–1683. https://doi.org/10.1016/j.ajpath.2021.06.011Chauhan C., Gullapalli R. R. Ethics of AI in Pathology. Am. J. Pathol. 2021;191(10):1673–1683. https://doi.org/10.1016/j.ajpath.2021.06.011Renkema M., Tursunbayeva A. The future of work of academics in the age of Artificial Intelligence: State-of-the-art and a research roadmap // Futures. 2024. Vol. 163. P. 103453. https://doi.org/10.1016/j.futures.2024.103453Renkema M., Tursunbayeva A. The future of work of academics in the age of Artificial Intelligence: State-of-the-art and a research roadmap. Futures. 2024;163:103453. https://doi.org/10.1016/j.futures.2024.103453AI deception: A survey of examples, risks, and potential solutions / P. S. Park, S. Goldstein, A. O'Gara, M. Chen, Dan Hendrycks // Patterns (NY). 2024. Vol. 5, N 5. P. 100988. https://doi.org/10.1016/j.patter.2024.100988Park P.S., Goldstein S., O'Gara A., Chen M., Dan Hendrycks. AI deception: A survey of examples, risks, and potential solutions. Patterns (NY). 2024;5(5):100988. https://doi.org/10.1016/j.patter.2024.100988Кодекс этики в сфере искусственного интеллекта. Альянс в сфере искусственного интеллекта. URL: https://ethics.a-ai.ru/assets/ethics_files/2023/05/12/Кодекс_этики_20_10_1.pdf (дата обращения: 26.07.2024).The Code of Ethics in the field of artificial intelligence. Al'yans v sfere iskusstvennogo intellekta. (In Russ.) Available at: https://ethics.a-ai.ru/assets/ethics_files/2023/05/12/Кодекс_этики_20_10_1.pdf (accessed 26.07.2024).Этические аспекты нейротехнологий: ЮНЕСКО назначила международную группу экспертов для подготовки нового глобального стандарта. URL: https://www.unesco.org/ru/articles/eticheskie-aspekty-neyrotekhnologiy-yunesko-naznachila-mezhdunarodnuyugruppu-ekspertov-dlya?hub=32618 (дата обращения: 20.07.2024).Ethical aspects of neurotechnology: UNESCO has appointed an international group of experts to prepare a new global standard. (In Russ.) Available at: https://www.unesco.org/ru/articles/eticheskie-aspekty-neyrotekhnologiy-yunesko-naznachila-mezhdunarodnuyu-gruppuekspertov-dlya?hub=32618 (accessed 20.07.2024).OECD AI Principles overview. URL: https://oecd.ai/en/ai-principles (дата обращения: 28.07.2024).OECD AI Principles overview. Available at: https://oecd.ai/en/ai-principles (accessed 28.07.2024).On Artificial Intelligence-A European approach to excellence and trust White Paper on Artificial Intelligence A European approach to excellence and trust. European Commission. 2020. URL: https://commission.europa.eu/publications/white-paper-artificial-intelligence-european-approach-excellence-and-trust_en (дата обращения: 27.07.2024).On Artificial Intelligence-A European approach to excellence and trust White Paper on Artificial Intelligence A European approach to excellence and trust. European Commission. 2020. Available at: https://commission.europa.eu/publications/white-paper-artificial-intelligenceeuropean-approach-excellence-and-trust_en (accessed 27.07.2024).EU AI Act. European Union. URL: https://artificialintelligenceact.eu/ai-act-explorer/ (дата обращения: 27.07.2024).EU AI Act. European Union. Available at: https://artificialintelligenceact.eu/ai-actexplorer/ (accessed 27.07.2024).Filipova I. A. Legal Regulation of Artificial Intelligence: Experience of China // Journal of Digital Technologies and Law. 2024. Vol. 2, N 1. P. 46–73. https://doi.org/10.21202/jdtl.2024.4Filipova I.A. Legal Regulation of Artificial Intelligence: Experience of China. Journal of Digital Technologies and Law. 2024;2(1):46–73. https://doi.org/10.21202/jdtl.2024.4Recommendation on the Ethics of Artificial Intelligence. URL: https://unesdoc.unesco.org/ark:/48223/pf0000381137 (дата обращения: 26.09.2024).Recommendation on the Ethics of Artificial Intelligence. Available at: https://unesdoc.unesco.org/ark:/48223/pf0000381137 (accessed 26.09.2024).Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence. URL: https://www.whitehouse.gov/briefing-room/statements-releases/2023/10/30/fact-sheet-presidentbiden-issues-executive-order-on-safe-secure-and-trustworthy-artificial-intelligence/ (дата обращения: 28.07.2024).Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence. Available at: https://www.whitehouse.gov/briefing-room/statements-releases/2023/10/30/fact-sheet-presidentbiden-issues-executive-order-on-safe-secure-and-trustworthy-artificial-intelligence/ (accessed 28.07.2024).The AIDA companion document: A roadmap for Canada’s artificial intelligence law. URL: https://ised-isde.canada.ca/site/innovation-better-canada/en/artificial-intelligence-and-dataact-aida-companion-document (дата обращения: 27.07.2024).The AIDA companion document: A roadmap for Canada’s artificial intelligence law. Available at: https://ised-isde.canada.ca/site/innovation-better-canada/en/artificial-intelligenceand-data-act-aida-companion-document (accessed 27.07.2024).Implementing the UK’s AI regulatory principles: initial guidance for regulators. URL: https://www.gov.uk/government/publications/implementing-the-uks-ai-regulatory-principlesinitial-guidance-for-regulators (дата обращения: 26.07.2024).Implementing the UK’s AI regulatory principles: initial guidance for regulators. Available at: https://www.gov.uk/government/publications/implementing-the-uks-ai-regulatory-principles-initial-guidance-for-regulators (accessed 26.07.2024).Global Index on Responsible AI 2024 / R. Adams, F. Adeleke, A. Florido, L. G. de Magalhães Santos, N. Grossman, L. Junck, K. Stone. URL: https://ai.gov.ru/upload/iblock/2b0/l960deb403wb2ic179moquclt60i52gc.pdf (дата обращения: 27.07.2024).Adams R., Adeleke F., Florido A., de Magalhães Santos L.G., Grossman N., Junck L., Stone K. Global Index on Responsible AI 2024. Available at: https://ai.gov.ru/upload/iblock/2b0/l960deb403wb2ic179moquclt60i52gc.pdf (accessed 27.07.2024).

The authors declare that there are no conflicts of interest present.