1. На главную
  2. Электронные версии
  3. Доклады Российской академии наук. Математика, информатика, процессы управления
  4. T. 514, № 2, 2023

Доклады Российской академии наук. Математика, информатика, процессы управления, 2023, T. 514, № 2, стр. 6-19

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ В ОБЩЕСТВЕ

Академик РАН А. Л. Семенов 1, 2, 3, *

1 Российский государственный педагогический университет им. А. И. Герцена
Санкт-Петербург, Россия

2 Институт образования НИУ Высшая школа экономики
Москва, Россия

3 Московский государственный университет имени М.В. Ломоносова
Москва, Россия

* E-mail: alsemno@ya.ru

Поступила в редакцию 30.10.2023
После доработки 30.10.2023
Принята к публикации 01.11.2023

Аннотация

Статья представляет собой авторский обзор сингулярности, в которой развиваются события в области ИИ. Предлагается общий взгляд на роль информационно-технологических революций как расширяющих человеческую личность. Рассматривается современный этап расширения личности, охватывающий последнее десятилетие и особенно 2023 год. Рассматриваются наиболее важные и типичные общественно значимые документы, в которых выражается озабоченность результатами развития и применения ИИ, а также документы, в которых декларируются условия позитивного развития событий: этические принципы, приоритетные направления, требования и ограничения. Более детально рассматривается находящийся в стадии принятия Европейский закон об ИИ и реакция разных групп на него. Выделяются культурно-исторические факторы, которые могут противостоять негативному и катастрофическому развитию событий, которое становится возможным благодаря ИИ. Анализируются возможные механизмы сохранения подлинного знания в среде профессионалов и распространения его среди широких слоев населения.

Ключевые слова: искусственный интеллект, расширенная личность, озабоченность негативным влиянием ИИ, межгосударственное регулирование, Европейский закон об ИИ, Хиросимский процесс ИИ, Ковчег знаний, Энциклопедия

Список литературы

  1. Об использовании микрокалькуляторов в учебном процессе (Инструктивно-методическое письмо). НИИ содержания и методов обучения АПН СССР и Главное управление школ Министерства просвещения СССР // Математика в школе, 1982. 3. С. 6–8.

  2. Постановление ЦК КПСС и Совета Министров СССР от 28 марта 1985 года № 271 “О мерах по обеспечению компьютерной грамотности учащихся средних учебных заведений и широкого внедрения электронно-вычислительной техники в учебный процесс”. Вопросы образования, 2005. 3. С. 341–346 (in Russian). http://vo.hse.ru/arhiv.aspx?catid=252&z=808&t_no=809&ob_no=854 (актуально на 3.09.2023).

  3. McCarthy J. What is artificial intelligence? Stanford University, Stanford, USA, 2007. http://www-formal.stanford.edu/jmc/ (дата обращения: 31.10.2023).

  4. Выготский Л.С. Инструментальный метод в психологии. Собр. соч. В 6 т. Т. 1. 1982. http://elib.gnpbu.ru/text/vygotsky_ss-v-6tt_t1_1982/go,108;fs,1/ (дата обращения: 31.10.2023). Eng. translation: Vygotsky L.S. The instrumental method in psychology, 1981. https://www.marxists.org/archive/vygotsky/works/1930/instrumental.htm (дата обращения: 31.10.2023).

  5. Semenov A.L., Ziskin K.E. Expanded Personality as the Main Entity and Subject of Philosophical Analysis: Implications for Education. Doklady Mathematics. 2023. V. 108. № 4. P. 331–341. ISSN 1064-5624. https://doi.org/10.1134/S1064562423700965

  6. Floridi L. The fourth revolution: how the infosphere is reshaping human reality. Oxford University Press, UK, 2014. ISBN 978-0-19-960672-6. https://www.academia.edu/14408794/The_Fourth_Revolution_How_the_Infosphere_is_Reshaping_Human_Reality (дата обращения: 31.10.2023).

  7. Кохлеарный имплантат. Википедия. https://ru.wikipedia.org/?curid=120843&oldid=132635763 (дата обращения: 31.10.2023).

  8. Платон. Федр, 274c–275b. Сочинения в 4-х томах, т. 3. М.: Мысль, 1971. С. 455–542.

  9. Suleyman M. My new Turing test would see if AI can make $1 million. MIT Technology Review, July 14, 2023. https://www.technologyreview.com/2023/07/14/ 1076296/mustafa-suleyman-my-new-turing-test-would-see-if-ai-can-make-1-million/ (дата обращения: 31.10.2023).

  10. Образование — это не изучение фактов, а тренировка мышления. https://theocrat.ru/eng/content-64698/ (дата обращения: 31.10.2023).

  11. Future of Life Institute. Официальный сайт. https://futureoflife.org/ (дата обращения: 31.10.2023).

  12. Russell S., Dewey D., Tegmark M. Research Priorities for Robust and Beneficial Artificial Intelligence. Future of Life Institute, 2015. https://futureoflife.org/data/documents/research_priorities.pdf?x89399 (дата обращения: 31.10.2023).

  13. The Asilomar AI principles. Published August 11, 2017. https://futureoflife.org/open-letter/ai-principles/ (дата обращения: 31.10.2023).

  14. Pause Giant AI Experiments: An Open Letter. Published March 22, 2023. https://futureoflife.org/open-letter/pause-giant-ai-experiments/ (дата обращения: 31.10.2023).

  15. As Six-Month Pause Letter Expires, Experts Call for Regulation on Advanced AI Development. Published September 21, 2023. https://futureoflife.org/ai/six-month-letter-expires/ (дата обращения: 31.10.2023).

  16. FLI Recommendations for the UK Global AI Safety Summit, Bletchley Park, 1-2 November 2023. URL: https://futureoflife.org/wp-content/uploads/2023/09/FLI_AI_Summit_Recommendations.pdf (дата обращения: 31.10.2023).

  17. Кодекс этики в сфере ИИ. Альянс в сфере искусственного интеллекта. https://ethics.a-ai.ru/ (дата обращения: 31.10.2023).

  18. Альянс в сфере искусственного интеллекта. Официальный сайт. https://a-ai.ru/ (дата обращения: 31.10.2023).

  19. Recommendation on the Ethics of Artificial Intelligence. UNESCO, 2021. 43 p. https://unesdoc.unesco.org/ark:/48223/pf0000381137 (дата обращения: 31.10.2023).

  20. Statement of AI Risk. AI experts and public figures express their concern about AI risk. Center of IA Sagety. https://www.safe.ai/statement-on-ai-risk (дата обращения: 31.10.2023).

  21. FACT SHEET: Biden-Harris Administration Secures Voluntary Commitments from Leading Artificial Intelligence Companies to Manage the Risks Posed by AI. July 21, 2023. https://www.whitehouse.gov/briefing-room/statements-releases/2023/07/21/fact-sheet-biden-harris-administration-secures-voluntary-commitments-from-leading-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai/ (дата обращения: 31.10.2023).

  22. Ensuring Safe, Secure, and Trustworthy AI. https://www.whitehouse.gov/wp-content/uploads/2023/07/Ensuring-Safe-Secure-and-Trustworthy-AI.pdf (дата обращения: 31.10.2023).

  23. Jeans S. The first AI Insight Forum: when tech titans, lawmakers, and critics converge. Daily AI, September 13, 2023. https://dailyai.com/2023/09/the-first-ai-forum-when-tech-titans-lawmakers-and-critics-converge/ (дата обращения: 31.10.2023).

  24. DeepMind alignment team opinions on AGI ruin arguments. August 13, 2022. https://www.lesswrong.com/posts/qJgz2YapqpFEDTLKn/deepmind-alignment-team-opinions-on-agi-ruin-arguments (дата обращения: 31.10.2023).

  25. AI and the future of humanity. Yuval Noah Harari at the Frontiers Forum. April 29, 2023. Montreux, Switzerland. https://www.youtube.com/watch?v=LWiM-LuRe6w (дата обращения: 31.10.2023).

  26. Jeans S. Digital colonialism in the age of AI and machine learning. Daily AI, October 28, 2023. https://dailyai.com/2023/10/digital-colonialism-in-the-age-of-ai-and-machine-learning/ (дата обращения: 31.10.2023).

  27. Open Letter to Generative AI Leaders. https://actionnetwork.org/petitions/authors-guild-open-letter-to-generative-ai-leaders (дата обращения: 31.10.2023).

  28. Open Letter: Artists Using Generative AI Demand Seat at Table from US Congress. https://creativecommons.org/about/policy-advocacy-copyright-reform/open-letter-artists-using-generative-ai-demand-seat-at-table-from-us-congress/ (дата обращения: 31.10.2023).

  29. Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts. Brussels, April 2, 2021. https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:52021PC0206&from=EN (дата обращения: 31.10.2023).

  30. Низов В. EU AIA, или Как нужно организовывать законотворческий процесс. Портал zakon.ru, 17.05.2023. https://zakon.ru/blog/2023/05/17/eu_aia_ili_kak_nuzhno_organizovyvat_zakonotvorcheskij_process (дата обращения: 31.10.2023).

  31. Butcher M. European VCs and tech firms sign open letter warning against over-regulation of AI in draft EU laws. TechCrunch.com, June 30, 2023. https://techcrunch.com/2023/06/30/european-vcs-tech-firms-sign-open-letter-warning-against-over-regulation-of-ai-in-draft-eu-laws/ (дата обращения: 31.10.2023).

  32. European business leaders, startup founders, and investors call for regulating AI foundation models under the EU AI Act. Published October 09, 2023. https://www.ai-statement.com/ (дата обращения: 31.10.2023).

  33. Verdi G. General-Purpose AI fit for European small-scale innovators. Published October 5, 2022. https://www.digitalsme.eu/general-purpose-ai-fit-for-european-small-scale-innovators/ (дата обращения: 31.10.2023).

  34. G7 Hiroshima Process on Generative Artificial Intelligence (AI) Towards a G7 Common Understanding on Generative AI. EOCD. Published on September 07, 2023. 37 p. https://doi.org/10.1787/bf3c0c60-en. https://www.oecd.org/publications/g7-hiroshima-process-on-generative-artificial-intelligence-ai-bf3c0c60-en.htm (дата обращения: 31.10.2023).

  35. Hiroshima Process International Code of Conduct for Advanced AI Systems. Published 30 October 2023. URL: https://digital-strategy.ec.europa.eu/en/library/hiroshima-process-international-code-conduct-advanced-ai-systems (дата обращения: 31.10.2023).

  36. Hiroshima Artificial Intelligence Process: EU Commission welcomes voluntary code of conduct for AI developers. EU Today, October 30, 2023. https://eutoday.net/hiroshima-artificial-intelligence-process/ (дата обращения: 31.10.2023).

  37. Coghlan J. Consumer surveys show a growing distrust of AI and firms that use it. Cointelegraph, August 29, 2023. https://cointelegraph.com/news/consumers-increase-distrust-artificial-intelligence-salesforce-survey (дата обращения: 31.10.2023).

  38. Haan K. Over 75% Of Consumers Are Concerned About Misinformation From Artificial Intelligence. Forbs Advisor, Jul 20, 2023. https://www.forbes.com/advisor/business/artificial-intelligence-consumer-sentiment/ (дата обращения: 31.10.2023).

  39. Vavilov N. Reshaping the metaphor of proof. Phil. Trans. R. Soc. A. 377, 20180279. https://doi.org/10.1098/rsta.2018.0279

  40. A consumer checklist on protecting consumers from the risks of AI. The European Consumer Organization, April 2022. https://www.beuc.eu/sites/default/files/publications/beuc-x-2022-039_protecting_consumers_from_the_risks_of_ai_-_a_consumer_checklist.pdf (дата обращения: 31.10.2023).

  41. Ковчег знаний МГУ. Информационная система Московского государственного университета имени М.В. Ломоносова. https://arc.msu.ru/ (дата обращения: 31.10.2023).

  42. Горячко В.В., Бубнов А.С., Раевский Е.Н., Семенов А.Л. Цифровой ковчег знания. Доклады РАН, Математика, информатика, процессы управления, 2022, 508. С. 128–133. Eng. translation: Goryachko V.V., Bubnov A.S., Rayevskii E.V., Semenov A.L. Digital Ark of Knowledge. Doklady Mathematics, 2022. V. 106. Suppl. 1. P. S113–S117. https://doi.org/10.1134/S106456242206009610.1134/S1064562422060096.https://doi.org/10.31857/S2686954322070098

  43. Семенов А.Л., Абылкасымова А.Е., Поликарпов С.А. Основания математического образования в цифровой век. Доклады РАН. Математика, информатика, процессы управления, 2023, т. 511. С. 3–12. Eng. translation: Semenov A.L., Abylkassymova A.E., Polikarpov S.A. Foundations of Mathematical Education in the Digital Age. Doklady Mathematics. 2023. V. 107. Suppl. 1. P. S1–S9. https://doi.org/10.1134/S106456242370056410.1134/S1064562423700564https://doi.org/10.31857/S2686954323700157

  44. Семенов А.Л., Абылкасымова А.Е. Цифровые технологии как фактор преемственности в математическом образовании. Сб. Фундаментальные проблемы обучения математике, информатике и информатизации образования: сборник тезисов докладов международной научной конференции. 29 сентября–1 октября 2023 г. Елец: Елецкий государственный университет им. И.А. Бунина, 2023. ISBN 978-5-00151-379-7. С. 10–15.

  45. Алиев Д.Ф., Бородулина С.А. Проект платформы социального скоринга (материалы к Ученому совету РГСУ). РГСУ Life, 07.09.2022. https://rgsu.net/about/activities/press_centre/life/platform/rgsu-life_20.html (дата обращения: 31.10.2023).

  46. Authorities warn public against AI fraud World Internet Conference, China Daily, June 1, 2023. https://www.wicinternet.org/2023-06/01/c_891623.htm (дата обращения: 31.10.2023).

Дополнительные материалы отсутствуют.

Инструменты

следующая статья выпуска предыдущая статья выпуска содержание выпуска

Доклады Российской академии наук. Математика, информатика, процессы управления

Архивы выпусков Информация о журнале Отправить рукопись в журнал