Безопасность информационно-коммуникационных технологий в контексте устойчивого развития социума
←
→
Транскрипция содержимого страницы
Если ваш браузер не отображает страницу правильно, пожалуйста, читайте содержимое страницы ниже
УДК 683.324 НАУЧНЫЕ ПУБЛИКАЦИИ. ТЕХНИЧЕСКИЕ НАУКИ
Безопасность информационно-коммуникационных технологий
в контексте устойчивого развития социума
В. А. Артамонов, д. т. н., профессор, академик МАИТ,
Республика Беларусь, рег. в ООН
E-mail: artamonov@itzashita.ru
МНОО «Международная Академия Информационных Технологий»,
ул. Сурганова, д. 6, 220012, г. Минск, Республика Беларусь
Е. В. Артамонова, к. т. н., член МАИТ, Республика Беларусь,
рег. в ООН
E-mail: admin@itzashita.ru
МНОО «Международная Академия Информационных Технологий»,
ул. Сурганова, д. 6, 220012, г. Минск, Республика Беларусь
Л. А. Кулак (псевдоним Антония Ильинская), д. ф. н., инженер,
член МАИТ, США.
E-mail: anoniyau@yahoo.com
Авторская Лаборатория Образного Синтеза в составе МИГЭП при
МНОО «Международная Академия Информационных Технологий»,
ул. Сурганова, д. 6, 220012, г. Минск, Республика Беларусь
Аннотация. В статье рассматриваются вопросы развития социума в условиях смены финишного, перед 4-й про-
мышленной революцией, технологического уклада, связанного с развитием информационно- коммуникационных
технологий (ИКТ) как одного из катализаторов устойчивого прогресса в развитии социальных и производственных
отношений современного общества. Констатируется, что прогресс в области производственных отношений и тех-
нологий развивается по экспоненциальному закону, согласно которому на временной шкале этого развития, на-
ступает так называемая точка технологической сингулярности, когда становится непредсказуемым путь развития
т.н. машинного интеллекта. Рассматриваются различные сценарии поведения и использования искусственного
интеллекта (ИИ) и его средств машинного обучения (МО) в негативных целях порабощения социума. Вместе с
тем, последние исследования математиков доказывают, что возможности ИИ оказываются небеспредельными.
Подобно человеческому разуму, ИИ ограничен парадоксами теории множеств. В связи с этим в развитии и при-
менении ИКТ необходимо осуществлять тот интегральный уровень слияния ИКТ с эволюционным развитием лич-
ности и социума, который бы не привёл к тому, что процесс мышления человека будет подавлен услугами техно-
кратических средств.
Ключевые слова: информационно-коммуникационные технологии (ИКТ), безопасность ИКТ, технологический
уклад, промышленная революция, искусственный интеллект, машинное обучение, технологическая сингуляр-
ность, континуум-гипотеза, теория множеств, качество жизни, качество личности
Для цитирования: Артамонов, В. А. Безопасность информационно-коммуникационных технологий в контексте
устойчивого развития социума/ В. А. Артамонов, Е. В. Артамонова, Л. А. Кулак// Цифровая трансформация. – 2019. –
№ 2 (7). – С. 36–45.
© Цифровая трансформация, 2019
Safety of Information and Communication Technologies in the Context
of the Sustainable Development of Human Society
V. A. Artamonov, Dr Sc. (Technology), Professor,
the full member of IAIT, UN
E-mail:artamonov@itzashita.ru
International Scientific Public Union "International Academy
of Information Technologies", 6 Surganova str., 220012, Minsk,
Republic of Belarus
36 ЦИФРОВАЯ ТРАНСФОРМАЦИЯ, № 2 (7), 2019E. V. Artamonova, Candidate of Sciences (Technology),
member of IAIT, Belarus,UN
E-mail:admin@itzashita.ru
International Scientific Public Union "International Academy
of Information Technologies", 6 Surganova str., 220012, Minsk,
Republic of Belarus
L.A. Kulak (pen name Antoniya Ilyinskaya), Dr Sc. (Philosophy),
MD in engineering, member of IAIT, USA
E-mail:anoniyau@yahoo.com
Author's Laboratory of Imaginary Synthesis as a part of MIHEP,
International Scientific Public Union "International Academy
of Information Technologies", 6 Surganova str., 220012, Minsk,
Republic of Belarus
Abstract. The article deals with the development of human society under the conditions of change of the final
technological pattern existing before the 4th industrial revolution. The change is associated with the development
of information and communication technologies (ICT) as one of the catalysts of sustainable progress in the development
of social and industrial relations in the modern society. It is stated that progress in the field of industrial relations and
technologies developing conformity with the exponential law. At the same time, according to the law, the so-called point
of technological singularity appears on the time scale of the development when the development path of what is referred
to as machine intelligence becomes unpredictable. Various behavior scenarios and the use of artificial intelligence (AI),
including its machine learning tools employed for the adverse purposes of enslaving human society, are considered.
However, recent studies of mathematicians prove that the possibilities of AI are not unlimited. Like the human mind, AI
is limited by the paradoxes of the theory of sets. In this regard, in the development and application of ICT, it is necessary
to implement the integrated level of ICT fusion with the evolutionary development of personality and society that would
not lead to the suppression of the human thought process by the services of technocratic means.
Key words: information and communication technologies (ICT), ICT safety, technological pattern, industrial revolution,
artificial intelligence, machine learning, technological singularity, continuum hypothesis, theory of sets, quality of life,
quality of personality
For citation: Artamonov V. A., Artamonova E. V., Kulak L. A. Safety of Information and Communication Technologies in the
Context of the Sustainable Development of Human Society. Cifrovaja transformacija [Digital transformation], 2019, 2 (7),
pp. 36–45 (in Russian).
© Digital Transformation, 2019
Введение. Понимая под социумом совокуп- Одна из характерных особенностей совре-
ность человеческих взаимоотношений, которые менного этапа мирового научно-технического
регулируются определенными нормами и прави- прогресса связана с глобальной информационной
лами большой группы людей, имеющих общие революцией – стремительным развитием и по-
взгляды, морально-нравственные ценности, тра- всеместным внедрением новейших ИКТ. Прони-
диции, историю и культуру, а также одни и те же кая во все сферы жизнедеятельности государств,
политические и экономические устои, территорию ИКТ расширяют возможности развития междуна-
проживания и общий менталитет, – можно кон- родного сотрудничества, формируют глобальное
статировать, что определяющей доминантой та- информационное и киберпространство, в кото-
кого социума является его устойчивое развитие. ром информация приобретает свойства ценней-
При этом под устойчивым развитием понимается шего элемента национального достояния, его
процесс экономических и социальных изменений, стратегического ресурса. Но вместе с этим про-
при котором эксплуатация природных ресурсов, гресс в области ИКТ несёт потенциальные угрозы
направление инвестиций, а также ориентация для устойчивого развития человечества. Рассмо-
научно-технического развития общества и лично- трим подробнее данные угрозы и меры им про-
сти, институциональные изменения согласованы тиводействия.
друг с другом и укрепляют нынешний и будущий Основная часть. Глобальным трендом раз-
потенциал для удовлетворения человеческих по- вития современного социума являются такие
требностей и устремлений. Во многом в этом по- инновации VI–го технологического уклада раз-
нятии речь идёт о развитии научно-технического вития общественных отношений, как цифровая
прогресса для обеспечения качества жизни людей. экономика, электронное правительство, крипто-
DIGITAL TRANSFORMATION, No 2 (7), 2019 37валюта, искусственный интеллект, беспилотный Здесь и далее под информационной безо-
транспорт и др. пасностью мы будем понимать защищённость ин-
Вместе с тем становится очевидным, что формации и поддерживающей инфраструктуры
наряду с положительными моментами такого от случайных или преднамеренных воздействий
процесса создается и реальная угроза исполь- естественного или искусственного характера, ко-
зования достижений в информационной сфере торые могут нанести неприемлемый ущерб субъ-
(кибероружие) в целях, не совместимых с зада- ектам информационных отношений будь то чело-
чами поддержания мировой стабильности и без- век, общество или государство.
опасности, соблюдения принципов суверенного При этом важно помнить основополагаю-
равенства государств, мирного урегулирования щую парадигму ИБ: безопасность — это не про-
споров и конфликтов, неприменения силы, не- дукт, а процесс, постоянный и непрерывный,
вмешательства во внутренние дела, уважения состоящий в состязательности потенциала нару-
прав и свобод человека. шителя и системы защиты.
Таким образом, исходя из вышесказанного, Кроме того, отдельной темой являются си-
безопасность общества в контексте устойчивого туации с нарушениями ИБ на объектах критиче-
развития социума можно разделить на три боль- ской информационной инфраструктуры (КИИ),
шие группы: личную, общественную и государ- а также недопущение какой-либо компромета-
ственную. ции в критической ситуации. К таким ситуациям
Личная безопасность – состояние защи- относятся компьютерные атаки на критически
щённости человека от психологического, фи- важные объекты социальной и государственной
зического или иного насильственного посяга- инфраструктуры, природные, техногенные и со-
тельства. циальные катастрофы, компьютерные сбои, фи-
Общественная безопасность – способ- зическое похищение и тому подобные угрозы.
ность социальных институтов общества обеспе- Трансформация промышленных револю-
чить его устойчивое, независимое, свободное ций. Мир стоит на пороге четвёртой промышлен-
и самостоятельное развитие и реализацию вы- ной революции. И этот непреложный факт уже не
бранного пути. Определяется уровнем и состоя- вызывает практически никаких сомнений. Среди
нием общественных отношений. учёных теоретической экономики есть разные
Государственная безопасность – систе- определения или признаки той или иной про-
ма общественных и государственных гарантий, мышленной революции. Не вдаваясь в анализ
защищающих основные ценности, духовные строгости и достоверности классификации, оста-
и материальные источники жизнедеятельности, новимся на классической и в то же время рацио-
гражданских прав и свобод человека, защиту су- нальной – немецкой.
веренитета, территориальной целостности и не- По немецкой классификации Инду-
зависимости от внешних и внутренних угроз. стрия 1.0 сформировалась при широком распро-
Кратко рассмотрим, как соотносятся безо- странении ткацкого станка и паровой машины
пасность ИКТ и исходящие от них угрозы вышеу- в конце XVIII века.
помянутым видам безопасности социума. Индустрия 2.0 — в начале ХХ века при
В основе безопасности ИКТ лежит деятель- переходе к конвейеру.
ность по защите информации – обеспечению её Индустрия 3.0 — в конце 70-х прошлого
конфиденциальности, доступности и целостно- века вследствие компьютеризации и распро-
сти. В совокупности эти три ключевых принципа странения станков с числовым программным
информационной безопасности (ИБ) именуются управлением (ЧПУ).
триадой CIA. Индустрия 4.0, или четвертая промышлен-
Confidentiality (с англ. – «конфиденциаль- ная революция, сегодня пока только набирает обо-
ность») – свойство информации быть недоступ- роты и заключается в развитии ИКТ, робототехники,
ной или закрытой для неавторизованных лиц, ИИ, МО, дальнейшей цифровизации экономики,
сущностей или процессов; внедрении концепции «электронного правитель-
Integrity (с англ. – «целостность») – свойство ства», электронных денег (криптовалюты), автома-
сохранения правильности и полноты активов; тизации производства и сферы услуг, расширении
Availability (с англ. – «доступность») – свой- применения безлюдных технологий и транспорта,
ство быть доступным и готовым к использованию интернета вещей (IoT), развитию центров обработ-
по запросу авторизованного субъекта. ки данных (ЦОД) и «облачных вычислений».
38 ЦИФРОВАЯ ТРАНСФОРМАЦИЯ, № 2 (7), 2019Для каждого периода развития человече- люции уместно рассмотреть концепцию техноло-
ства характерна своя трансформация, которую гической сингулярности.
можно описать как некую совокупность про- Технологическая сингулярность – это гипо-
мышленных технологий, позволяющих создать тетический момент в будущем, когда технологиче-
определенный качественный скачок в росте про- ское развитие станет настолько стремительным,
изводительности труда. Это определение впи- что экспоненциальный график (рис.4) техническо-
сывается в широко принятую концепцию смены го прогресса станет практически вертикальным.
технологических укладов, где трансформация Осмысление экспоненциальных технологий по-
на базе ИКТ является одним из этапов (рис.1). требовало некоторого времени, прежде чем они
Кривая изменения экономического прогресса получили полное признание всего за несколько
(роста производительности труда) отображает- лет. Этой тенденции следуют самые разные об-
ся в виде S-образной кривой с периодами за- ласти, такие как, например, искусственный ин-
рождения (медленного роста), активного роста теллект и машинное обучение в качестве одной
и зрелости (замедления роста). Совокупность из ветвей развития ИКТ, робототехника, здраво-
технологических инноваций приводит к смене охранение, электро- и самоуправляемые автомо-
одного уклада на другой. Каждый из этапов эко- били, образование, трёхмерное печатание, про-
номического прогресса на рисунке 1 (включая мышленность и сельское хозяйство [1,2,3].
стадию ИКТ) можно разделить на более мелкие Добро пожаловать в 4-ю промышленную
части, и в каждой выделить свои трансформиру- революцию. Добро пожаловать в Экспоненци-
ющие технологии. Разные специалисты предла- альный Век. Эта концепция была предложена
гают свою периодизацию. В частности, по одной Вернором Винжем [1], который предположил, что
из них (рис.2) предлагается пять этапов, начиная если мы сумеем избежать гибели цивилизации до
от TCP/IP и заканчивая облачными технология- этого, то сингулярность произойдет из-за прогрес-
ми. Выбирая более короткий период, например, са в области искусственного интеллекта, интегра-
эволюцию web-технологий, внутри него также ции человека с ИКТ или других методов увеличе-
можно выделить свои периоды (рис.3). ния разума. Усиление разума, по мнению Винжа,
Технологическая сингулярность. При рас- в какой-то момент приведет к положительной об-
смотрении сути четвёртой промышленной рево- ратной связи: более разумные системы могут со-
Рис. 1. Трансформирующие технологии и технологические уклады.
Источник: M. Hilbert, University of California.
Fig. 1. Transforming technologies and technological structures.
Source: M. Hilbert, University of California.
DIGITAL TRANSFORMATION, No 2 (7), 2019 39Рис. 2. Этапы в развитии ИКТ.
Источник: Сеиф Хардиди «История эволюции интернета» [4].
Fig. 2.Stages in ICT development.
Source: Seif Hardidi, "The history of the Internet evolution" [4].
здать еще более разумные и сделать это быстрее, предсказать, опираясь на человеческую логику.
чем первоначальные их конструкторы – люди. Эта С понятием сингулярности часто связывают идею
положительная обратная связь скорее всего ока- о невозможности предсказать, что будет после
жется столь сильной, что в течение очень корот- нее. Вопрос предсказуемости важен, поскольку,
кого промежутка времени (месяцы, дни или даже не имея возможности предсказать хотя бы не-
всего лишь часы) мир преобразится больше, чем которые последствия наших действий, нет ни-
мы можем это представить, и внезапно окажется какого смысла в том, чтобы пытаться напра-
населен сверхразумными созданиями. вить развитие в желательном направлении.
По мнениям некоторых учёных-футуроло- Постчеловеческий мир, который в резуль-
гов [2;3] и того же Винжа, придерживающихся тате появится, возможно, будет столь чуждым
концепции сингулярности, она должна наступить для нас, что сейчас мы не можем знать о нем
около 2030 года и даже по самому пессимистиче- абсолютно ничего. Единственным исключением
скому сценарию не позднее середины этого века, могут быть фундаментальные законы природы,
т.е. в 2050 году. но даже тут иногда допускается существование
Если проэкстраполировать закон Мура (на- еще не открытых законов (у нас пока нет теории
блюдение, сделанное в 1965 году Гордоном Му- квантовой гравитации) или не до конца понятых
ром, одним из основателей корпорации Intel, что следствий из известных законов (путешествия
количество транзисторов на квадратный дюйм через пространственные «дыры», рождение
в интегральных схемах увеличивается двукратно "вселенных-карликов", путешествия во време-
каждые два года, начиная с изобретения инте- ни и т.п.), с помощью которых постлюди смогут
гральных схем), окажется, что примерно в то же делать то, что мы привыкли считать физически
время вычислительная мощность компьютеров невозможным.
сравнится с головным мозгом человека. Сторон- Угрозы искусственного интеллекта.
ники теории технологической сингулярности Историк Юваль Харари, автор книги «Sapiens:
считают, что, если возникнет принципиально от- Краткая история человечества» [4], полагает, что
личный от человеческого разум (постчеловек), человечество стоит на пороге не только техноло-
дальнейшую судьбу цивилизации невозможно гического, но и философского кризиса. Новые тех-
40 ЦИФРОВАЯ ТРАНСФОРМАЦИЯ, № 2 (7), 2019Рис. 3. Этапы в развитии web-технологий.
Источник: Сеиф Хардиди «История эволюции интернета» [4].
Stages in the web-technologies development.
Source: Seif Hardidi, "The history of the Internet evolution" [4].
нологии формируют новые формы антиутопии. Главное следствие масштабного внедрения
И общество пока не понимает, как адаптировать- искусственного интеллекта – это утрата чело-
ся к меняющейся реальности. веком автономии и авторитета. При этом ИИ
Харари вывел формулу предстоящего гло- не обязательно выходить на один интеллектуаль-
бального кризиса: ный уровень с людьми и обладать сознанием. Ал-
горитмам МО достаточно будет изучить личность
B*C*D = HH досконально, чтобы найти самую слабую точку
и запустить процесс манипуляций.
В данном случае B – это познания в биоло-
гии, C – это вычислительная мощность, а D – это F(x)=exp(x) = ex,
данные. Если помножить их друг на друга, поя-
вится возможность взламывать людей (HH – hack где e – число Эйлера (e = 2,718…).
humans). График экспоненты: y = ex (синий).
Под взломом исследователь подразумева- Касательная (красным) в нуле у функции:
ет возможность управлять человеком на глубин- y = ex наклонена на 45o .
ном уровне, то есть контролировать его желания Рядом для примера показаны: y = 2x (точка-
и стремления. Харари опасается, что правитель- ми) и y = 4x (пунктиром) (рис. 4).
ства и корпорации скоро изучат людей настолько, Общество подвержено взлому на всех уров-
что смогут с легкостью регулировать их мысли. нях, но больше всего Харари пугает биологический:
Технологии отдаленно будут напоминать «Эксперты по ИИ могут общаться с философами.
таргетированную рекламу, только их действие С историками – да, пожалуйста. С литературными
будет более точным, а эффект – стопроцентным. критиками – замечательно. Но меня пугает их обще-
Ранее исследователь отмечал, что в сложивших- ние с биологами», – признал он в интервью изданию
ся обстоятельствах привычные философские Wired. Тем не менее исследователь подчеркивает,
концепции отмирают. Это касается свободы воли что ИИ означает и массу преимуществ. Особенно это
и свободы выбора. Люди ошибочно полагают, касается медицины. Харари подчеркивает, что никто
что контролируют ситуацию, но на самом деле не станет препятствовать внедрению технологии –
это не так. ведь она способна принести столько пользы людям.
DIGITAL TRANSFORMATION, No 2 (7), 2019 41Рис. 4. Экспоненциальная функция развития прогресса человечества.
Примечанние: Выполнено с помощью формул и функций Excel.
The exponential function of human progress development.
Note: Done using Excel formulas and functions.
Распространение ИИ в комплекте с биотех- ко если потратить 10 лет на изучение экономики
нологическими открытиями породит два возмож- и математики. «В этом тоже выражается фило-
ных сценария антиутопии. софский кризис», – отмечает Харари.
Первый – надзор-капитализм – даст алго- Он также считает, что сегодня человек бо-
ритмам полную власть над людьми. Машинный рется не с отдельными людьми, а с государства-
интеллект и МО решат за нас, где жить, работать, ми и корпорациями. Перед лицом таких мощных
с кем встречаться и за кого голосовать. соперников шансов на успех мало. Более того,
Второй предполагает укрепление тота- влияние некоторых стран выходит за географи-
литаризма и диктатуры, при котором каждый ческие рамки. Историк обвиняет развитые го-
житель Земли – это объект непрерывной слежки. сударства и крупные корпорации в цифровом
Особую роль в этом процессе сыграют биометри- колониализме. Раньше империи выращивали
ческие и видеосистемы, которые не дадут граж- хлопок в Индии или Египте, потом отправляли
данину скрыться от всевидящего ока государства. сырье в Британию, производили одежду и вновь
Историк подчеркивает: люди могут даже пересылали ее в Индию или Египет, вытесняя
не заметить, как оказались во власти ИИ и МО. местных производителей.
Большинство не сможет понять, как работают ме- Сейчас то же самое происходит с данными,
ханизмы алгоритмов и как именно нами манипу- продуктами и системами ИКТ. Компании «выка-
лируют. Человечество привыкло к традиционным чивают» данные и программы из Бразилии, Ин-
формам объяснения и повествования, но машин- донезии и со всего мира, обрабатывают их в США,
ный интеллект работает со статистическими дан- Британии, Индии или Китае, а затем создают на
ными и оперирует другими понятиями. их основе продвинутые продукты, которые в ито-
Харари считает, что чрезмерное усложне- ге распространяют в «колониях».
ние систем – одна из главных актуальных про- Математики об искусственном интеллек-
блем. Из-за этого, например, ученым все сложнее те. Нарисованная выше учёными-футурологами
объяснять свои теории и доносить до аудитории довольно пессимистическая картина мира по-
суть открытий. сле достижения человеческой цивилизацией
Важный побочный эффект этого – расцвет временной точки технологической сингуляр-
теорий заговора. По этой причине сейчас возника- ности, скрашивается последними исследова-
ет все больше антиглобалистов и тех, кто не верит ниями учёных-математиков: возможности ИИ
в глобальное потепление. То же касается и сферы оказались небеспредельными [6]. Подобно че-
финансов – с каждым годом она усложняется, и ловеческому разуму, ИИ ограничен парадокса-
некоторые концепции можно объяснить, толь- ми теории множеств.
42 ЦИФРОВАЯ ТРАНСФОРМАЦИЯ, № 2 (7), 2019До сих пор считалось, что самой фундамен- ИИ не может быть ни доказана, ни опровергнута
тальной проблемой в развитии технологий ИИ яв- с использованием стандартных аксиом математи-
ляется необъяснимость принимаемых им реше- ки, поскольку это связано с парадоксами, откры-
ний. В январе 2019 к этой проблеме добавилась тыми австрийским математиком Гёделем в 1930-х
еще одна, не менее фундаментальная пробле- годах [7].
ма – принципиальная непредсказуемость, какие Теория множеств, так или иначе, является
задачи ИИ может решить, а какие нет. основой большинства разделов математики.
На пути триумфального развития техно- Парадоксы – это формально-логические
логий машинного обучения, как казалось, спо- противоречия, которые возникают в теории мно-
собных при наличии большого объема данных жеств и формальной логике при сохранении ло-
превзойти людей в чем угодно – в играх, распоз- гической правильности рассуждения. Парадоксы
навании, предсказаниях и т.д. – встала первая возникают тогда, когда два взаимоисключающих
из 23 проблем, поставленных в докладе Давида (противоречащих) суждения оказываются в рав-
Гильберта на международном математическом ной мере доказуемыми.
конгрессе в Париже еще в 1900-м году [7]. С точки зрения математики, вопрос «обуча-
Первой в списке этих 23 проблем, решение емости» сводится к тому, сможет ли алгоритм из-
которых до сих пор считается высшим достиже- влечь шаблон из ограниченных данных. Ответ на
нием для математика, была так называемая ги- этот вопрос связан с парадоксом, известным как
потеза континуума (континуум-гипотеза или вышеупомянутая континуум-гипотеза (проблема
1-я проблема Гильберта), которую выдвинул континуума или 1-я проблема Гильберта) и раз-
и пытался решить (но потерпел неудачу) еще сам решенным в 1963 г. американским математиком
создатель теории множеств Георг Кантор. Полом Коэном [7].
И вот сейчас, на исходе второго десятиле- Решение оказалось весьма неожиданным:
тия XXI века гипотеза континуума, будучи при- то, что утверждается в гипотезе континуума, нель-
мененная к задачам машинного обучения, стала зя ни доказать, ни опровергнуть, исходя из акси-
холодным отрезвляющим душем для всех техно- ом теории множеств. Гипотеза континуума логи-
оптимистов ИИ. чески независима от этих аксиом. Неспециалисту
Машинное обучение оказалось не всесиль- довольно трудно понять, почему утверждения та-
но. И, что еще хуже, в широком спектре сценари- кого рода играют для математики столь большую
ев обучаемость ИИ не может быть ни доказана, роль и ставятся на первое место в списке важней-
ни опровергнута. ших проблем. Отметим лишь, что на самом деле
Первая же научная сенсация 2019 года ока- речь идет о вещах принципиальных и фундамен-
залась совершенно неожиданной. Опубликован- тальных, так как континуум – это, по сути, базовая
ная 7-го января в Nature Machine Intelligence ста- математическая модель окружающей нас физи-
тья «Обучаемость может быть неразрешимой» ческой, пространственно-временной реальности
(англ. Learnability can be undecidable) [8] устанав- (частью которой являемся и мы сами), а в матема-
ливает предел возможностей машинного обуче- тике континуум – еще и синоним совокупности
ния – ключевого метода вычислений, на коем всех действительных чисел, также центрального
стоит весь современный ИИ. понятия математики и ее рабочего инструмента.
Этот научный вывод столь важен, что жур- По сути Гёдель и Коэн подтвердили, что кон-
нал Nature сопроводил статью еще двумя попу- тинуум-гипотеза не может быть доказана ни как
лярно её разъясняющими статьями «Недоказу- истинная, ни как ложная, начиная со стандартных
емость приходит в машинное обучение» (англ. аксиом – утверждений, принятых как истинные
Unprovability comes to machine learning) и «Ма- для теории множеств, которые обычно принима-
шинное обучение приводит математиков к не- ются за основу всей математики.
разрешимой задаче» (англ. Machine learning leads Иными словами, утверждение не может
mathematicians to unsolvable problem). быть ни истинным ни ложным в рамках стан-
Суть всех этих статей в следующем. Обнару- дартного математического языка.
жены сценарии, в которых невозможно доказать, Заключение. Проблемам безопасности
может ли алгоритм машинного обучения решить ИКТ и защищённости социума от негативного
конкретную проблему. Этот вывод может иметь воздействия ИИ и МО уделено достаточно много
огромное значение как для существующих, так и внимания в ряде исследований. Выделяются ос-
для будущих алгоритмов обучения. Обучаемость новные проблемы: нарушение работоспособно-
DIGITAL TRANSFORMATION, No 2 (7), 2019 43сти технического и программного обеспечения, мышления и интуицию. Вопрос защиты личности
распространение информационного оружия, не- от технократической интеллектуализации являет-
прерывное усложнение информационных и ком- ся одним из важнейших социальных аспектов при
муникационных систем, возможность концентра- внедрении ИКТ. Это и важный аспект образова-
ции информационных средств в руках небольшой тельной системы.
группы собственников, использование во вред Следующим важным аспектом в развитии
информационных данных, манипулирование со- применения ИКТ является тенденция внедрения
знанием, использование технологического воз- вычислительной техники следующего поколения,
действия на психическую деятельность. основанной на квантовых принципах.
В списке перечисленных проблем чётко Серьёзное внимание к данному аспекту
просматривается группа тех, которые бытуют может быть обусловлено тем, что биогенетика,
в истории человечества от формации к форма- лингвогенетика и техногенетика уходят корнями
ции. Это нападение, захват, нанесение вреда, в универсальную инфогенетику и структурирова-
манипулирование, использование достижений ны на её основе, но в разных плоскостях бытия.
для истребления друг друга. Историю наполняют На квантовом уровне их программная компиля-
захватнические войны, колонизации, порабоще- ция едина. Трансляция универсальной инфогене-
ния, истребления. Из формации в формацию че- тики в различные функциональные уровни с по-
ловечество переносит груз тех же проблем, и вме- следующим формообразованием биомассивов,
сте с техническими достижениями для улучшения языков, технического оборудования и прочего
качества жизни эти проблемы остаются и только является не более, чем формой субстанционного
переходят на новый уровень развития. их представления.
Переходя от одного этапа развития к друго- Степени сравнения мощностей мозга, при-
му, меняя формации и способы государственного надлежащего человеческому интеллекту как живо-
управления, человечество независимо от строя, му организму с мощностью самой интеллектуальной
нации и религии стремится к улучшению качества машины не правомочны. Решение компьютером
жизни. Качество жизни проявляется в субъек- сложных задач, которые подчинены математиче-
тивной удовлетворённости людей самими собой скому алгоритмизированию, не является показате-
и своей жизнью, а также в объективных харак- лем превосходства ИИ. Превосходство заключается
теристиках, свойственных человеческой жизни в интуитивном реагировании при решении жизнен-
как биологическому, психическому (духовному) ных задач, включающее факторы, которые невоз-
и социальному явлению. Эта тенденция является можно компьютеризировать, а также в нахождении
общей, и качество жизни населения определяет- той образной сочетаемости при движении мышле-
ся следующими направленностями: жизненными ния с уровня на уровень, которую невозможно ал-
потенциалами – общества в целом, социальных горитмизировать и отдать в руки машине, какой бы
групп и отдельных граждан; соответствием ха- виртуозностью ни обладал математический аппа-
рактеристик условий и результатов их жизнедея- рат. Если вкратце, то ИИ – это попытка воспроиз-
тельности социально-позитивным потребностям, вести процесс возникновения и дальнейшего раз-
ценностям и целям; внешними возможностями, вития человеческого мозга. Несмотря на все наши
т.е. свойствами окружающей среды, её объек- усилия, мы до сих пор почти ничего не знаем о том,
тов и субъектов. Функции всех направленностей каким именно образом наш мозг выполняет все те
должны иметь значимую вероятность достиже- задания, которые отличают нас от остальных видов
ния целей улучшения качества жизни общества и делают нас людьми.
в целом и в частности отдельных людей, которые Разумность определяется внутренним
хотят это сделать и готовы приложить для этого взвешиванием при установлении взаимосвя-
необходимые усилия. зей, которое осуществляется через интуитивную
В связи с этим в развитии и применении и логическую соразмерность, которая происхо-
ИКТ необходимо осуществлять тот интегральный дит в триадном континууме вещественности,
уровень слияния ИКТ с эволюционным развити- квантового процесса и того, что пока наука име-
ем личности и социума, который бы не привёл нует трансцендентным, но что является неотъ-
к тому, что процесс мышления человека будет по- емлемым включением в моделирующий аспект
давлен услугами технократических средств, кото- пространственно-временного континуума бы-
рые в прямом смысле могут посадить личность на тийности. Подтверждением этому служит явле-
ментальную «иглу» ИИ и МО, подавляя процесс ние поэтичности и литературно-художественного
44 ЦИФРОВАЯ ТРАНСФОРМАЦИЯ, № 2 (7), 2019творчества. На этом же основан и человеческий предлагающим гипотезы и строящим прогнозы,
фактор, который подчинён интуитивно-чувствен- и принимая их к сведению, необходимо инту-
ной логике и с точки зрения математики необъяс- итивно чувствовать меру и грань развития ИКТ,
ним и не может быть алгоритмизирован. которые бы помогли человечеству совершенство-
Отдавая дань уважения великим математи- ваться в своём устойчивом развитии. Все средства
кам, открывшим законы, делающим заключения, лишь этому в помощь, но не во вред.
Список литературы
1. Vinge, V. The Coming Technological Singularity [Electronic resource]. – 1993. – Mode of access: http://www- ohan.
sdsu.edu/faculty/vinge/misc/singularity.html. – Date of access: 11.06.2019.
2. Новоселов, А. Технологическая сингулярность как ближайшее будущее человечества [Электронный ресурс]. —
Режим доступа: http://andrzej.virtualave.net/Articles/singularity.html. Дата доступа: 01.05.2019.
3. Hanson, R. (ed.) A Critical Discussion of Vinge's Singularity Concept. Extropy Online. [Electronic resource]. – 1998. –
Mode of access: http://www.extropy.com/eo/articles/vi.html. – Date of access: 01.05.2019.
4. Харари Ю. Sapiens: Краткая история человечества [Electronic resource]. – Mode of access: www.labirint.ru/
books/498309 – Date of access: 11.06.2019.
5. Хардиди, С. Internet Definition History [Electronic resource]. – Mode of access: http://www.hpssociety.info/news/
internet-definition-history.html. – Date of access: 01.05.2019.
6. Colors collective , Mode of access: https://www.quantamagazine.org/mathematicians-measure-infinities-find-theyre-
equal-20170912/ — Date of access: 01.05.2019.
7. Демидов, С. С. «Математические проблемы» Гильберта и математика XX века // Историко-математические ис-
следования. – М. : Янус-К, 2001. – № 41 (6). – С. 84–99.
8. Ben-David, S. Learnability can be undecidable / S. Ben-David, P. Hrubeš, S. Moran, A. Shpilka, A. Yehudayoff // Nature
Machine Intelligence. – 2019. – № 1. – PP. 44–48. – https://doi.org/10.1038/s42256-018-0002-3.
References
1. Vinge V. The Coming Technological Singularity. 1993. Available at: http://www-rohan.sdsu.edu/faculty/vinge/misc/
singularity.html. (аccessed: 11.06.2019.)
2. Novoselov A. Tehnologicheskaja singuljarnost' kak blizhajshee budushhee chelovechestva [Technological Singular
as a near future of the humanity]. Available at: http://www.topos.ru/veer/41/singular.htm. (accessed: 01.05.2019)
(in Russian).
3. Hanson R. A Critical Discussion of Vinge's Singularity Concept. Extropy Online. 1998. Available at: http://www.extropy.
com/eo/articles/vi.html. (accessed: 01.05.2019.)
4. Harari Ju. Sapiens: Kratkaja istorija chelovechestva [Sapiens: The brief history of the humanity]. Sindbad, 2016. 520 p.
(in Russian).
5. Internet Definition History. Available at: http://www.hpssociety.info/news/internet-definition-history. (accessed:
01.05.2019).
6. Hartnett K. Mathematicians Measure Infinities and Find They’re Equal [Electronic resource]. Available at: https://
www.quantamagazine.org/mathematicians-measure-infinities-find-theyre-equal-20170912. Accessed: 01.05.2019.
7. Demidov, S. S. «Matematicheskie problemy» Gil'berta i matematika XX veka. Istoriko-matematicheskie issledovanija
[“The mathematical problems” of Hilbert and mathematicians of the XX century. Historical and mathematical research].
Moscow, Janus-K, 2001, № 41 (6), pp. 84–99.(in Russian).
8. Ben-David S., Hrubeš P., Moran S., Shpilka A., Yehudayoff A. Learnability can be undecidable. Nature Machine
Intelligence, 2019, 1, pp. 44–48.
Received: 11.06.2019 Поступила: 11.06.2019
DIGITAL TRANSFORMATION, No 2 (7), 2019 45Вы также можете почитать
