ИИ-тократия или антиутопия Оруэлла наяву

 Искусственный интеллект или сокращенно ИИ – результат прорыва последнего десятилетия. Хотя идея ИИ зародилась давно, что отражено и в художественной литературе, условия для ее воплощения сложились только с конца XX столетия. Причиной тому служит тот факт, что ИИ – результат инновационного мышления. Но вплоть до 20 века термин «инноваций/реформаций» имел негативный оттенок: нововведений боялись, ведь все нововведения разрушают привычный уклад жизни. Поэтому человек, жаждущий реформаций, мог спокойно быть осужденным за ересь. Ситуация стала меняться только с 30-х годов двадцатого столетия – с научным прогрессом. 

Впоследствии опыт СССР, а точнее его развал, неявно показал, что инновации не могут эффективно существовать при плановой экономике. С этих пор в экономических кругах распространилось мнение, что созидательное разрушение, предшествующее инновациям, по своей природе возможно только при капитализме, в рамках которого дух предпринимательства свободен. При авторитарных режимах стимулы к инновациям подавляются угрозами и актами экспроприации. Однако сам Шумпетер, впервые использовавший термин «инноваций» в экономической теории, считал иначе. В его работе «Капитализм, социализм и демократия», социализм в теоретическом понимании, а не в советском его исполнении, обладает рядом «правильных» элементов, способных поддерживать инновации. 

Beraja et. al (2023) своим исследованием доказывают, что Шумпетер мог быть прав. Необходимость сбора и обработки данных автократиями для целей политического контроля может стать отправной точкой развития ИИ. В свою очередь, государственный заказ на продукты ИИ может дать стимул развитию других инновационных продуктов на рынке. 

Для доказательства гипотезы о наличии двухсторонней связи между ИИ и автократией авторы берут за основу ИИ для распознавания лиц в Китае. Сохранение политического контроля является первостепенной задачей правящей Коммунистической партии Китая (Shirk 2007). Всем гражданам, даже самым успешным предпринимателям Китая, угрожает неограниченная способность автократа нарушать их права собственности, а иногда и гражданские права. 

Авторы на основе имеющихся данных пытаются ответить на вопросы: закупают ли автократии ИИ с распознаванием лиц для целей политического контроля, эффективен ли ИИ с распознаванием лиц для подавления беспорядков и связано ли приобретение ИИ с дополнительными изменениями в технологии политического контроля (например, приобретение камер наблюдения). Чтобы ответить на данные вопросы, авторы используют три блока данных:

1. эпизоды местных политических волнений в Китае из проекта GDELT; 

2. закупка местными органами общественной безопасности искусственного интеллекта с распознаванием лиц (и дополнительных технологий наблюдения) в основном у Министерства финансов Китая; 

3. разработка нового программного обеспечения китайских компаний, занимающихся ИИ, занимающихся распознаванием лиц (зарегистрировано в Министерстве промышленности и информационных технологий), а также их сделки по экспорту программного обеспечения (составленные из пресс-релизов, новостных сообщений и других источников).

«Они никогда не взбунтуются, пока не станут сознательными, а сознательными не станут, пока не взбунтуются» - писал Оруэлл. Действительно, общественные беспорядки – результат недовольства и наиболее частый способ противостоять диктатуре. Возможность предотвращать такие беспорядки может долго поддерживать текущую структуру власти. 

В этой связи очевидно, что автократы будут стремиться заполучить возможность «предотвращать» общественные беспорядки. Данная возможность реализуется при помощи ИИ, распознающего лица – эта технология получила наибольшую популярность в Китае. В этой связи авторы в статье проверяют, реагируют ли автократы на политические беспорядки, приобретая технологию искусственного интеллекта для распознавания лиц. Исследователи обнаруживают, что это действительно так: регионы Китая, в которых происходят эпизоды политических беспорядков, увеличивают последующие закупки ИИ для общественной безопасности с помощью распознавания лиц. Закупки местными властями технологии искусственного интеллекта в ответ на возникновение политических беспорядков предполагают, по крайней мере, веру в эффективность такой технологии в сдерживании будущих беспорядков. 

Установив, что ИИ действительно усиливает политический контроль автократов, авторы изучают вопрос того, стимулируют ли политически мотивированные закупки ИИ дополнительные инновации в области ИИ. Оценка показала, что в течение первого года после получения госконтракта фирмы производят значительно больше программного обеспечения для ИИ; через два года после заключения контракта они производят примерно на 10 (48,6%) программных продуктов больше. Такой рост наблюдается не только среди программного обеспечения, предназначенного для государственного использования, но, что важно, среди программного обеспечения, предназначенного для более широких коммерческих приложений. 

Более того, государственные закупки в области ИИ могут стимулировать фирмы к экспорту своей инновационной продукции. В частности, авторы, чтобы установить международную конкурентоспособность нового программного обеспечения ИИ, созданного по политически мотивированным контрактам, проверяют, связано ли получение контракта с вероятностью экспорта фирмой своей технологии. В результате авторы отмечают утроение вероятности того, что фирмы начнут экспортировать технологию, получив крупный госконтракт на ИИ.

Результаты статьи подразумевают, что автократический политический режим Китая и быстрые инновации в его секторе искусственного интеллекта не противоречат друг другу, а взаимно усиливают друг друга. Китай – яркий пример того, что может поддерживаться равновесие — «ИИ-тократия», — при которой укореняется автократический режим и поддерживаются пограничные инновации в области ИИ. При этом, политически мотивированное приобретение этой инновации стимулирует дальнейшие инновации, что, в свою очередь, еще больше укрепляет автократов.

В более общем плане данное исследование, анализирующее силы, поддерживающие отношения между политическими репрессиями автократов и передовыми инновациями в области ИИ для распознавания лиц, проливает свет и на другие известные эпизоды передовых инноваций при недемократических режимах. 

Такие эпизоды — от развития аэрокосмических технологий в Советском Союзе до инноваций в области химического машиностроения в третьем рейхе — трудно согласовать с обширной литературой, в которой освещаются силы, ограничивающие инновации и рост в недемократическом контексте. 

Эти эпизоды позволяют обобщенно сделать три важных вывода: во-первых, недемократические режимы могут черпать политическую власть из передовых инноваций; во-вторых, признавая политические преимущества инноваций, авторитарные режимы оказывают финансовую и институциональную поддержку, которая может способствовать технологическому развитию. В той мере, в какой эти взаимоусиливающие силы преодолевают традиционные автократические трения, инновации могут укреплять автократии и поддерживаться ими устойчивым образом.

Обзор на статью

Martin Beraja, Andrew Kao, David Y Yang, Noam Yuchtman (2023).  AI-tocracy*. The Quarterly Journal of Economics, Volume 138, Issue 3, , pp. 1349–1402, https://doi.org/10.1093/qje/qjad012