Надзор и структурное насилие: от Паноптикона к алгоритмам

Введение

Начиная с середины XX века расширительные трактовки насилия, включающие более гибкие и бескровные формы угнетения (Родионова, Смирнов 2022), открыла широкие возможности для социальной критики. Это новое — «тихое» (Garver 1968), «структурное» (Galtung 1969) или «системное» (Жижек 2010) — насилие производится механизмами, настолько укорененными в самом устройстве общества, что порой их трудно заметить.

Еще в Новое время статистика и надзор — наряду с физическим насилием — становятся главным источником «административной власти» национальных государств (Giddens 1985), а сегодня наблюдение (surveillance) уже можно считать основным механизмом контроля и распределения жизненных шансов. К сожалению, теоретики расширительных трактовок насилия, пишущие про несправедливость этого распределения в социальной структуре, не уделили должного внимания инструменту власти, посредством которого это распределение осуществляется.

Да, наблюдение не наносит физический вред напрямую, но в то же время оно дискриминирует, принуждает и контролирует, нарушает приватность и лишает автономии. Можно ли тогда считать наблюдение насилием? Что такой подход может дать теории насилия? Чтобы ответить на эти вопросы, для начала необходимо определить этот термин.

Наблюдение¹ — многогранное понятие, вбирающее в себя совокупность феноменов, связанных с контролем, надзором, слежкой, мониторингом, трекингом, супервизией и иными формами сбора и анализа данных об индивидах. Наблюдение — это «получение и запись данных, которые могут быть использованы как информация» (Marx 2015, p. 736), то есть это любой сбор данных, который влечет последствия для его объекта. В фокусе surveillance studies находится не столько сама техническая процедура наблюдения, сколько ее социальный контекст, связанные с ней социальные отношения. Так, наблюдение — это «сфокусированное, систематическое и постоянное внимание к личным характеристикам в целях влияния, руководства, защиты или управления» (Lyon 2022b, p. 2). Это понятие коннотативно связано с «властью, политикой, сопротивлением и установлением смыслов» (Ibid., p. 5).

1 - Слово «надзор» в первую очередь ассоциируется с эксплицитным контролем одними индивидами других, но не подходит, например, для скрытой работы алгоритмов, сталкинга в соцсетях, статистического учета рождаемости или ведения истории болезни. Нейтральное «наблюдение» передает больше значений английского слова «surveillance», и эта коннотация в русском языке не является для него искусственной («наблюдательный совет», «наблюдаться у врача»). 

Эта связь хорошо видна в определении Энтони Гидденса, который выделяет два измерения наблюдения: во-первых, это «накопление “кодированной информации”, которая может быть использована для управления теми, о ком она собрана», а во-вторых, «непосредственный надзор (direct supervision) за деятельностью одних индивидов со стороны других, обладающих над ними властью» (Giddens 1985, p. 14). Таким образом, говоря о наблюдении, социальные теоретики имеют в виду не только и не столько технологии и сам процесс сбора и анализа данных, сколько порождаемые ими отношения власти, асимметричные социальные отношения.

Последнее замечание принципиально важно, поскольку насильственными могут быть только социальные отношения: считать насилием сам сбор данных — работу включенной камеры или файл-cookie — это все равно что считать насилием меч или взмах меча. Мы говорим о насилии тогда, когда ударом Персея меч сносит голову Горгоны или хотя бы висит над головой Дамокла, но не когда Аякс падает на меч. Иначе говоря, насильственность определяется не физикой воздействия, но асимметрией влияния на индивида со стороны другого индивида или структуры¹.

1 - Это влияние необязательно является социальным действием в веберовском смысле, так как агент не всегда связывает с ним субъективный смысл (Вебер 2008, с. 90), особенно если агентом выступает не человек, а алгоритм (см. далее трактовку насилия Й. Галтунга). О насилии как асимметричном влиянии на субъекта, исключающем его свободу и возможность сопротивления, см. далее у М. Фуко.

Наблюдение не наносит физический вред напрямую, но может опосредовать его: например, это могут быть алгоритмические системы самонаведения ракетных установок или городские системы распознавания лиц, таргетирующие меры полицейского принуждения. Если сопоставить насилие с сообщением, а наблюдение — со средством коммуникации, знаменитая маклюэновская формула «средство коммуникации есть сообщение» не утратит свой смысл: не само насилие как таковое, а именно его алгоритмичность определяет структуру порождаемых им сегодня социальных отношений. Иначе говоря, именно наблюдение создает асимметричную структуру социальных отношений, в рамках которой и возможно насилие.

Это утверждение основано на теории Йохана Галтунга, понимавшего под структурным насилием систематическое неэгалитарное распределение ресурсов социальными структурами, приводящее к ограничению человеческого потенциала (Galtung 1969, p. 172, 175). В своей работе он формально определяет структурные — иерархические и сетевые — принципы, приводящие к неравному распределению благ в системах интеракций (Ibid., p. 175-176). По сути, это математическое определение структурной асимметрии, однако оно не дает понимания того, как и на основе чего такие асимметрии формируются. Кроме того, универсальная и абстрактная схема Галтунга не объясняет логику исторического развития этих структур. Данная статья ставит своей целью доказать, что структурные асимметрии создаются наблюдением и меняются вместе с эволюцией его техник.

Чтобы объяснить эволюцию техник наблюдения, они будут рассмотрены в терминах Мишеля Фуко как техники власти¹, чья логика подчинена соответствующей гувернаментальности, парадигме управления. Важно отметить, что Фуко, будучи крупнейшим теоретиком наблюдения, не признавал какую-либо власть насилием. В его трактовке власть есть управление поведением (conduite des conduites), а управлять — значит, «структурировать возможное поле действия других» (Фуко 2006а, с. 181). Насилие, как его понимает Фуко, управляет субъектами как телами, то есть подавляет субъектность; власть же оставляет определенную свободу поступка, «поле возможностей, куда вписывается поведение действующих субъектов» (Там же, с. 180-182). Отношения власти, считает Фуко, пронизывают все общество, но свобода у субъектов есть далеко не всегда, поскольку существуют многочисленные состояния господства (Фуко 2006b, с. 244), когда «отношения власти обездвижены таким образом, что они постоянно являются асимметричными, а полоса свободы чрезвычайно суживается» (Там же, с. 258).

1 - Власть у Галтунга распределяется социальными структурами как ресурс, а у Фуко отношения власти образуют эти структуры.

По сути, Фуко определяет структурную асимметрию как асимметричные отношения власти, что открывает возможность для рассмотрения проблематики наблюдения в его работах через призму теории структурного насилия. В этом смысле эта статья посвящена тому, как наблюдение создает состояния господства. Эволюция парадигм управления и соответствующих им техник наблюдения приводит к изменениям в социальной структуре и к трансформациям структурного насилия. Именно на этой интуиции построен дальнейший анализ.

В первой части статьи будет кратко рассмотрена эволюция техник наблюдения в соотнесенности с эволюцией моделей власти и показано, что логика контроля всегда построена на принципе структурной асимметрии и каждая модель власти создает ее с помощью характерных для нее техник наблюдения. Во второй части статьи эти структурные асимметрии будут рассмотрены через призму расширительных трактовок насилия с акцентом на вопросах равенства и автономии.

Контроль: от архитектуры поведения к экологии действия

Одним из первых теоретиков наблюдения можно назвать Иеремию Бентама, чьему перу принадлежит архитектурный проект тюрьмы-Паноптикона, ставший широко известным благодаря работам Мишеля Фуко. Паноптикон представляет из себя здание тюрьмы кольцевой цилиндрической формы, в центре которого находится башня надзирателя. Камеры заключенных расположены по периметру вокруг этой башни так, чтобы быть доступны его взгляду (Bentham 1995, p. 35). Внешний и внутренний периметры здания построены из стекла и железных решеток, чтобы свет проходил через камеры насквозь и перед взглядом надзирателя представали силуэты заключенных (Фуко 2015, с. 243-244); ночью в камеры направляется свет фонаря центральной башни (Bentham 1995, p. 41). В ранней версии Паноптикона камеры прослушивались с помощью системы слуховых труб, но это могло позволить заключенным слышать надзирателя, и Бентам от них отказался (Фуко 2015, с. 247).

Главный принцип устройства Паноптикона — это асимметрия видимости: заключенный «полностью видим, но сам никогда не видит; из центральной башни надзиратель видит все, но сам невидим» (Там же, с. 245-246). Асимметрия видимости приводит к асимметрии знания, а асимметрия знания — к асимметрии власти: надзиратель видит все нарушения, фиксирует их и наказывает за них, а у заключенных формируется ощущение постоянной поднадзорности, не дающее им нарушать тюремный порядок, — помещенный в поле видимости и знающий об этом «впитывает отношение власти» и сам «становится началом собственного подчинения» (Там же, с. 247).

Помимо Паноптикона-тюрьмы, Бентам разработал проекты еще нескольких Паноптиконов: работного дома, школы и дома правительства (см.: Galič et al. 2017, p. 13-15). В архитектуре всех этих зданий заложена асимметрия видимости, причем в случае с домом правительства Паноптикон «выворачивается наизнанку»: чиновники оказываются под надзором публики. Утилитаристская утопия Бентама — мир, где каждый «проявляет себя на глазах у каждого» и каждое действие в пользу «всеобщего счастья будет замечено и оценено» (Bentham 1834, p. 101); это общество абсолютной транспарентности и различимости. Так, Бентам не просто предложил несколько архитектурных проектов, но одним из первых теоретизировал то, как наблюдение создает асимметрию власти — подчинение одних другим, а также призвал сделать наблюдение реципрокным, чтобы эту асимметрию сгладить: в обществе, где властители поднадзорны массам, нет коррупции и деспотии.

Проект Паноптикона-тюрьмы выступает опорной метафорой для Мишеля Фуко, описывающего в работе «Надзирать и наказывать. Рождение тюрьмы» (1975) переход европейских обществ XVIII века от системы суверенной власти, проявляющей себя в форме демонстративного насильственного наказания путем казней, пыток и клеймения (Фуко 2015, с. 45), к системе дисциплинарной власти в форме пространственно определенного и темпорально расходированного контроля, надзора и муштры человеческих тел (Там же, с. 166-167, 174-176, 182-185, 205). Эти техники дисциплинарной власти теоретик обнаруживает в тюрьмах, казармах, школах, монастырях, больницах и мануфактурах — дисциплинарных институтах (Там же, с. 168-169), в чьей архитектуре угадывается бентамовский проект. Каждое движение солдата, выполняющего строевые приемы, производится в строгом порядке за определенное с точностью до секунды время. Рабочие фабрики четко пространственно распределены вокруг поточной ленты или станков, их действия оптимизированы в лучших традициях тейлоризма, начало и завершение работы регулируют заводские гудки.

Подобная машинерия тел возможна благодаря распространению механизма паноптизма — одной из ключевых черт дисциплинарного общества (Фуко 2015, с. 263). Наблюдение вырабатывает послушание, укорененную в архитектуре, планировке и расписании дисциплину — «здесь мы говорим о двух вещах: о взгляде и об интериоризации взгляда» (Фуко 2002b, с. 232). Так, продуктом дисциплины становятся не только тела, но и сами индивиды (Фуко 2015, с. 237): «отношения подчинения могут изготовлять субъектов» (Фуко 2002a, с. 210). Фуко патетично описывает общество, которое использует весь инструментарий техник власти для нормации¹ индивидов, через дисциплину насаждая однородность, а через иерархическое упорядочивание, ранговую сортировку и кодирование различий достигая порядка и максимизируя полезность труда (Фуко 2015, с. 205, 224-225).

К концу XVIII века, как пишет Фуко, основной моделью власти становится биовласть², которая управляет жизнью сразу всего населения как популяцией, органической массой, совокупностью естественных феноменов (Фуко 2011, с. 13, 455). Биовласть не ограничена искусственным пространством дисциплинарных институтов, а, напротив, с помощью техник секьюритизирующего контроля превращает среду человеческого обитания в безопасную территорию, где просчитаны любые риски (Там же, с. 37-39): она «стремится контролировать серию случайных событий, могущих произойти в живой массе; стремится контролировать (при случае модифицировать) вероятность, во всяком случае, компенсировать ее последствия» (Фуко 2005, с. 263). Секьюритизирующее действие биовласти проактивно, оно включает в себя предиктивную аналитику и превентивные меры, это «система различных наблюдений, проверок, действий по надзору и контролю, позволяющих заранее, до того как вор украл, определить, готов ли он совершить кражу» (Фуко 2011, с. 17).

1 - В «Надзирать и наказывать» Фуко использует термин «нормализация», но позже обозначит «нормацию» как более подходящий термин, чтобы подчеркнуть «первичность нормы по отношению к нормальному» (Фуко 2011, с. 89).
2 - В конце курса лекций «Нужно защищать общество» (Фуко 2005) он вводит понятие «биовласть», но в курсе «Безопасность. Территория. Население» заменяет его термином «устройства безопасности» (dispositifs de sécurité) (Фуко 2011, с. 17-18), а далее по ходу курса вводит термин «гувернаментальность» (gouvernementalité), вбирающий в себя предыдущие два: это власть, целью которой является население, а инструментом — устройства безопасности (Там же, с. 161-162).

Дисциплинарная власть использовала норму (юридическую, медицинскую, трудовую) как бинарный код, делящий индивидов на два множества — нормальных и анормальных, а затем применяла техники нормации так, чтобы привести элементы второго множества к критериям попадания в первое (Там же, с. 88-89). Биовласть же осуществляет нормализацию, определяя статистически оптимальный уровень выраженности или распространения опасности¹, и применяет техники контроля лишь в тех случаях, когда она выходит за пределы интервала допустимого отклонения (Там же, с. 19-20). Это совершенно другая логика наблюдения, требующая куда больших объемов и регулярного обновления данных. Если дисциплинарное наблюдение стремится к субъективирующему эффекту на индивидуальном уровне, то секьюритизирующее — к статистическому эффекту на популяционном. Дисциплинарную матрицу заменяет органическое множество, в котором нет смертей, но есть смертность, нет преступлений, но есть преступность (Там же, с. 18-19, 96).

1 - Такое понимание нормативности напоминает рассуждения Эмиля Дюркгейма о социальной патологии: для любого общества характерен нормальный уровень преступности, патологией она становится, только когда этот уровень значительно превышен (Дюркгейм 1992, с. 82). Более того, Дюркгейм описывает функциональность нормального уровня преступности, а Фуко описывает функциональность нормальных уровней смертности от болезней и голода в логике биовласти (Фуко 2011, с. 68).

Новые модели власти не сменяют одна другую, но трансформируют, усложняют существующие техники власти (Фуко 2011, с. 22; Фуко 2015, с. 242), а потому в современном обществе можно обнаружить элементы их всех. Например, камеры наружного наблюдения на улицах города, распознающие лица, сочетают в себе паноптический, дисциплинарный и секьюритизирующий принципы. Во-первых, горожане видят, что «умный город» видит их, и ведут себя соответствующим образом; асимметрия видимости позволяет городским властям ловить преступников (Graham, Wood 2003) и преследовать протестующих (Feldstein 2019). Во-вторых, камеры фиксируют нарушения, причисляя нарушителя к более низкому рангу в системе (например, китайского социального рейтинга), которому соответствует меньший объем прав. Наконец, камеры превращают пространство города в территорию безопасности, осложняя организацию терактов (Lyon 2006), и обеспечивают карантин, препятствуя распространению вируса (Kitchin 2020; Lyon 2022a).

Жиль Делёз развивает идеи Фуко о наблюдении. В работе «Постскриптум к обществам контроля» (1990) он, игнорируя концепцию биовласти¹, пишет об обществе контроля, пришедшем в XX веке на смену дисциплинарному обществу. Контроль становится кибернетическим и осуществляется непрерывной чередой молниеносных компьютерных операций с данными (Делёз 2004, с. 230, 232). Системы наблюдения разбирают проявления индивидов — характеристики их тел (внешность или, например, сердечный ритм) или поведение (перемещения и коммуникацию) — на серии потоков данных. Индивидуумы становятся дивидуумами, сводятся к массиву данных (Там же, с. 230, 233); «результатом становится декорпорированное тело, абсолютно виртуальный “дата-двойник”», индивид превращается в чистую информацию (Haggerty, Ericson 2000, p. 611-613). На результатах ее анализа строятся стратегии управления, коммерции и контроля, определяется допуск к ресурсам, сервисам и власти (Ibid., p. 611-613), то есть — если понимать индивидов как потоки данных — доступ к информации (Делёз 2004, с. 230). Так, вуз не пустит студента без электронного пропуска, метрополитен — пассажира без проездного, социальная сеть — без регистрации. Сайты и приложения ограничивают возможности пользователей без платной подписки или не давших согласие на файлы-cookies. Помимо расходов и предоставления данных, от дивидуумов требуется определенное поведение: у банков есть рейтинги благонадежности клиентов, у таможен — списки разыскиваемых и невыездных. Асимметрия власти в обществе контроля — это асимметрия доступа, причем «важен не сам барьер, а компьютер, который отслеживает положение каждого, легальное или нелегальное, и осуществляет глобальную модуляцию» (Там же, с. 232).

1 - Существует полемика вокруг того, как соотносить биовласть Фуко и контроль Делёза: в самих текстах эксплицитные сходства отсутствуют, но в лекциях Делёза они предстают почти синонимами (Nail 2016). Тем не менее, в отличие от Фуко, Делёз описывает современный дигитализированный контроль, и описываемая им техника наблюдения — модуляция — все же отличается от секьюритизирующей категоризации биовласти. 

Цифровизация наблюдения сделала возможным общество контроля, следующим этапом стала алгоритмизация. Алгоритмическое наблюдение осуществляется без участия человека; алгоритмические системы могут автоматически непрерывно собирать и анализировать большие данные, принимать и реализовывать на основе этого анализа решения и переписывать свои алгоритмы с учетом полученного результата (Introna, Wood 2004; Graham, Wood 2003). Такие системы наблюдения стали активно применяться для предсказания человеческого поведения.

Предиктивная аналитика породила новую форму контроля, которую Антуанетта Рувруа и Томас Бернс назвали алгоритмической гувернаментальностью. Под этим они понимают тип рациональности, «основанный на автоматизированном сборе, агрегации и анализе больших данных в целях моделирования и предсказания возможного поведения, а также заблаговременного воздействия на него» (Rouvroy et al. 2013, p. 10). Авторы описывают, как алгоритмы конструируют¹ индивида из лишенного уникальных черт множества профилей, отсылающих к его «склонностям, предполагаемым желаниям, возможностям и рискам» (Ibid., p. 27); индивиды профилируются как потенциальные банкроты, покупатели, террористы (Ibid., p. 12). У каждого профиля есть своя характерная структура связей (корреляций) между данными, которая корректируется в реальном времени с получением новых данных (Ibid., p. 20).

1 - Рувруа и ее соавторы опираются на Жильбера Симондона, который вместо метафизики субстанции, при которой субъект конструирует отношения, описывает онтологию отношений (Rouvroy et al. 2013, p. 21), которые предшествуют субъекту и из которых он конструируется в процессе индивидуации, посредством «интеграции неравенств и различий в единую скоординированную систему» (Ibid., p. 5). Именно поэтому Рувруа и Бернс определяют данные как отношения, а их анализ — как поиск связей между отношениями, как поиск «отношений отношений» (Ibid., p. 20).

Алгоритмы через цифровые интерфейсы в режиме реального времени отслеживают действия индивидов, соотносят их с профилями, которым соответствуют определенные линии вероятного поведения, и предлагают им именно те возможности взаимодействия с интерфейсами (аффордансы), которые позволят наиболее вероятно добиться максимально выгодного поведения, например, продать товар за бо́льшую цену тому, кто своими действиями в сети выдал заинтересованность в его покупке (Ibid., p. 13). Сопротивление алгоритмам невозможно, потому что они сами исключают такую возможность (Ibid., p. 17). Появляется асимметрия аффордансов.

Поле возможных действий в цифровой среде — это множество ее аффордансов. Если автор термина, Джеймс Гибсон, определяет аффордансы среды как реальные возможности для действий, определяемые способностями агента, то Дональд Норман, сделавший термин популярным, понимает эти возможности как воспринимаемые, но не обязательно реальные (McGrenere, Ho 2000). Таким образом, цифровой контроль может создавать две асимметрии аффордансов: реальную и воспринимаемую. Первая достигается путем непосредственного ограничения выбора, что ближе к работам Рувруа; вторая возможна благодаря гибкости настроек цифровых интерфейсов и ограниченности человеческой рациональности, что позволяет управлять поведением индивидов через архитектуру выбора¹ (Johnson et al. 2012; Sunstein, Thaler 2008).

1 - Не сокращая число возможностей, настройки интерфейсов могут подталкивать индивида к определенному действию — nudges (Sunstein, Thaler 2008), осложнять выбор альтернатив — sludges (Sunstein 2021), отвлекать от них, обманывать, выдавая одни аффордансы за другие, или подсовывать вместе с выбранным невыбранное — UX dark patterns (Gray et al. 2018). Кроме прочего, это приводит к большему непреднамеренному раскрытию пользователями своих данных.  

Если попытаться сформулировать эволюцию моделей контроля и, соответственно, техник наблюдения в одном предложении, то это движение от архитектуры поведения к экологии действия. Под «архитектурой» здесь следует понимать как строения паноптических дисциплинарных пространств (тюрем, школ, заводов), так и внутреннее устроение субъектов — дисциплину, послушание, структуру поля их возможного действия. Более современные формы контроля менее «инвазивны», они заблаговременно рассчитывают вероятности и последствия конкретных действий и воздействуют на них через экологию, среду, условия, аффордансы.

В таблице 1 представлено обобщение рассмотренных теорий. Как можно заметить, каждой разновидности контроля соответствует своя характерная техника наблюдения. Как и в случае с моделями власти у Фуко, каждая новая техника наблюдения несет в себе черты предыдущей. Кроме того, каждой технике наблюдения соответствует порождаемая ей структурная асимметрия. Подробный анализ связи техник наблюдения и структурных асимметрий будет представлен в следующих разделах.

Таблица 1. Соответствие моделей контроля, техник наблюдений и структурных ассиметрий
Table 1. Correspondence between control models, surveillance techniques and structural asymmetries

Структурные асимметрии социальной сортировки

Йохан Галтунг определяет насилие как ситуацию, при которой «на людей оказано такое влияние, что их актуальные телесные или ментальные реализации не соответствуют их потенциальным реализациям»; насилием является все, что увеличивает этот разрыв или препятствует его сокращению (Galtung 1969, p. 168). Если в более классических определениях насилие сводится к применению силы (force), Галтунг пишет о насилии как влиянии (influence), значительно расширяя это понятие. Важная черта этой трактовки насилия — необязательность наличия конкретного агента. Так, если персональное насилие исходит от конкретного индивида, источником структурного насилия выступает социальный порядок: «насилие встроено в структуру и проявляется как неравное распределение власти и, следовательно, жизненных шансов» (Ibid., p. 171).

В качестве одного из механизмов структурного насилия Галтунг выделяет порядок, построенный на прямом ранжировании (Ibid., p. 176). Фуко пишет о сортировке и ранжировании в контексте дисциплины. Дисциплина организует аналитическое пространство, в рамках которого возможны надзор и наказание, оценка качеств и заслуг (Фуко 2015, с. 174). Единицей в нем выступает ранг, место в классификации, клетка в таблице (Там же, с. 178). На этом поле сравнения дисциплинарная власть выстраивает индивидов в иерархический порядок, сравнивает и ранжирует их качества, устанавливает степень их соответствия норме. Примером могут послужить диспансеры для больных туберкулезом, где возможности и свобода пациентов зависят от того, как их состояния классифицировали врачи на основе анализов, то есть наблюдения (Bowker, Star 2000, p. 26-27).

В дисциплинарных институтах индивид подвергается муштре, «промывке мозгов» и наказаниям, после чего остается лишь «послушное тело», продукт дисциплины¹ (Фуко 2015, с. 168, 237). Нормация обязательно подразумевает наказания на основе ранжирования: одиночная камера, смирительная рубашка, лишение очередной увольнительной в армии, вычеты из оклада или старинная школьная порка. Наказания определяются соответствием определенным рангам, а принадлежность к рангам устанавливается на основе наблюдения: надзора в тюрьме, осмотра в больнице, экзамена в школе.

1 - Логика извлечения из субъектов полезности не ставит своей целью нанесение им вреда, но она и не направлена на их благополучие, а потому дисциплина цинично «отделяет силы от тела» (Фуко 2015, с. 168). Насаждаемая ей норма может быть несовместима со здоровьем и развитием человека, если, например, вспомнить ненормированный детский фабричный труд в начале XIX века (Rasmussen 2024, p. 567; Humphries 2013), — Галтунг определяет эксплуатацию, приводящую к страданиям и болезням, как одну из форм структурного насилия (Galtung 1990, p. 293).

Некоторые авторы отмечают, что описанный Фуко «переход от пыток к дисциплине представлял собой переход от прямого телесного насилия к структурному» (Dodds 2020, p. 391). Эта интуиция требует уточнения: старые модели власти не исчезают, а встраиваются в новые, так же как и структурное насилие с определенного момента начинает задавать институциональные формы персонального насилия (Galtung 1969, p. 178). Так, например, тюремное заключение как ограничение движений признается Галтунгом персональным телесным насилием (Ibid., p. 174), но в случае с тюрьмой насилие исходит не столько от конкретного надзирателя, сколько от структуры, в которой заключенный занял соответствующий ранг.

Сортировка для Фуко есть техника власти, которая распределяет награды и наказания, а также продвигает или исключает на основе ранжирования индивидов. Так, она создает состояния господства, а именно структурную асимметрию рангов, в которой структурным насилием, по Галтунгу, может являться как нисходящее перемещение в иерархии, так и само неравное распределение жизненно важных благ по стратифицирующему принципу.

Если с помощью сортировки дисциплина максимизирует послушание, то с помощью категоризации биовласть минимизирует риски. Различные категории в разной степени, во-первых, сами подвержены рискам, например, смертельному заболеванию или голоду (Фуко 2011, с. 68, 94), а во-вторых, в разной степени представляют потенциальную опасность для всего населения. Фуко подчеркивает, что биовласть волнует только второе. Она игнорирует отдельные множества до тех пор, пока «без должного управления определенной категорией людей» становится «невозможно добиться того, чего стремятся добиться применительно к населению в целом» (Там же, с. 68). Эта расчетливая слепота приводит к нормальному уровню смертности от болезней (Там же, с. 94), который не снижают, если нет угрозы для популяции, а также к необходимой для поддержания рыночных механизмов нехватке зерна, приводящей к нормальному уровню голодных смертей (Там же, с. 68). Именно это неравное распределение жизненных шансов, при котором умирают те, кого можно было бы спасти при другом распределении власти и ресурсов, Галтунг называет структурным насилием (Galtung 1969, p. 178).

Эта линия рассуждений Фуко была развита классиком исследований наблюдения Дэвидом Лионом (Lyon 2005). Согласно его теории социальной сортировки¹ (social sorting), сбор данных системами наблюдения позволяет профилировать индивидов, относя их к иерархически упорядоченным категориям. На основе этой категоризации определяется, «на кого должны быть нацелены особое обращение, подозрение, выбор, инклюзия, доступ и так далее» (Ibid., р. 20), а на кого — нет. Посредством наблюдения индивиды сопоставляются с тем объемом прав, возможностей и ресурсов, которые отводятся этой категории в социальной структуре. Принципиально важно, что посредством социальной сортировки наблюдение не просто обнаруживает различия, но активно их конструирует, управляя населением на основе этих предписанных статусов (Monahan 2008, p. 219). Образование и принуждение групп всегда сопряжено с наблюдением (Graham, Wood 2003, p. 227).

1 - У Лиона нет введенного выше различения между сортировкой и категоризацией, что может вызвать путаницу. Социальная сортировка Лиона — категоризация, а описываемый им контроль — секьюритизирующий (концепция появилась по следам теракта 11 сентября 2001 года). 

Если персональное наблюдение направлено на получение информации о конкретном индивиде, то массовое наблюдение — на «выявление» в населении определенных категорий (Clarke 1988, p. 499), на основании соответствия которым одни получают льготы, скидки, пособия и услуги (Monahan 2010), а другие проходят дополнительные проверки в метро и аэропортах, получают отказ на въезд в страну (Lyon 2006). Социальная сортировка может выступать как подспорьем эффективной борьбы с эпидемиями, преступностью и терроризмом, так и инструментом репрессивного аппарата и дискриминационной политики в отношении расовых и религиозных (Lyon 2006; Fiske 1998), гендерных и сексуальных меньшинств (Koskela 2012), нищих и бездомных (Fopp 2002; Gilliom 2001). Наблюдение «обладает властью определять неуместное», а потому, навязывая нормы, оно сфокусировано на «тех, кто был отнесен к “ненормальным”» (Fiske 1998, p. 81). Гидденс отмечает, что «девиация — это не совокупность действий или отношений, отделенных от надзорных операций государства, она формируется в них и посредством их» (Giddens 1985: 309). Объявляя обделенные ресурсами категории (underdogs) девиантными и объясняя их положение их девиацией — то есть объясняя причину следствием, — власть имущие (topdogs) осуществляют маргинализацию, одну из форм структурного насилия (Galtung 1990, p. 294).

В сфере частного наблюдения интернет-магазины и маркетплейсы используют механизм, названный Оскаром Ганди паноптическим разбором (panoptic sort), который заключается в последовательной идентификации продавцами своих покупателей, оценке их «экономической ценности» и категоризации на основе собранных данных (Gandy 1996, p. 133-135). Паноптический разбор позволяет предугадывать выбор покупателей, опираясь на историю покупок людей из той же категории, а также предлагать более состоятельным покупателям более дорогие товары (Ibid., p. 140-142). Это стало возможно благодаря появлению аккаунтов: новые данные о поведении авторизовавшегося на сайте покупателя ассоциируются с уже накопленными данными о нем и данными о покупках других покупателей из той же категории. Здесь можно наблюдать промежуточную стадию между категоризацией и профилированием.

Если дисциплинарный контроль, основанный на бинарной норме, скрупулезно анализировал своих изолятов, то для основанного на бинарном коде массового дигитализированного контроля не существует индивидов — лишь их дивидуальный цифровой след. Это делает социальную сортировку неизбежно дискриминационной и стигматизирующей, поскольку право объектов наблюдения на доступ к ресурсам определяется на основе нескольких, часто формальных, признаков: любое «профилирование исходит из предпосылки о возможности узнать другого без знакомства» (Bellanova et al. 2021, p. 130). Этот избыточный фокус на категоризующем признаке, определяющем уровень доступа, и абсолютная слепота ко всем остальным (Lianos, Douglas 2000, p. 107), свойственные операциям общества контроля, делают структурные асимметрии насильственными в своей непредвзятости: для бездомного получение пособия, которое не выдают без соответствующих документов, может быть вопросом жизни и смерти, равно как и для мигранта, пытающегося покинуть охваченную политическим кризисом страну. Некоторые авторы объясняют несправедливой работой социальной сортировки неравный доступ к здравоохранению, с чем связаны более высокие доли умерших от COVID-19 среди бедных слоев населения и расовых меньшинств (Maras 2023). По Галтунгу, поскольку этих смертей можно было избежать, погибших можно считать жертвами структурного насилия — несправедливого распределения ресурсов и возможностей (Galtung 1969, p. 178).

Алгоритмизация социальной сортировки приводит к алгоритмизации структурного насилия. Так, Мими Онуоха ввела понятие алгоритмического насилия — таковым она называет дискриминацию, которую «совершает алгоритм или автоматизированная система принятия решений, не позволяя людям удовлетворять свои базовые потребности» (Onuoha 2018). В качестве примеров она приводит предвзятую работу алгоритмов по отношению к определенным социальным категориям, которые используются полицией и судами, рекрутерами и банками. Подхватившие этот термин авторы описывают расовые предрассудки, заложенные в алгоритмические системы анализа стоимости недвижимости (Safransky 2020), использование алгоритмов в военных и полицейских целях (Bellanova et al. 2021); с концепцией Онуоха часто сравнивают более ранние работы о предвзятой работе алгоритмов браузеров (Noble 2018) и государственных социальных программ (Eubanks 2017). Фактически эти авторы называют алгоритмическим насилием вообще любую категориальную дискриминацию с участием алгоритмов. Однако алгоритмизация наблюдения не сводится только к автоматизации социальной сортировки: она порождает новые техники наблюдения, которые, в свою очередь, порождают новые формы структурного насилия.

Тихое насилие алгоритмов: асимметрии аффордансов

Ньютон Гарвер в своей работе «Что такое насилие?» (1968) замечает, что идея насилия теснее связана с идеей нарушения (violation), нежели силы (force), а потому переопределяет насилие как нарушение неотъемлемых человеческих прав (Betz 1977, p. 340). Такими правами он считает право на тело и право на автономию, причем последнее понимается как «право на продукт своего труда» и «право распоряжаться или справляться с последствиями своих действий» (цит. по: Betz 1977, p. 340). Кроме того, он вводит различение на «персональное» и «институциональное насилие», а также на «открытое/физическое» и «скрытое/тихое»¹ (Ibid.). Джозеф Бетц, не отрицая своих сомнений, трактует тихое насилие Гарвера как психологическое (Ibid., p. 348), но кажется, что это слабо обоснованное и необязательное сужение авторского замысла.

В контексте организованного наблюдения примечательна институциональная форма тихого насилия, которая, согласно Гарверу, «действует, когда люди систематически лишаются выбора из-за самого способа, которым обычно совершаются операции (transactions)» (цит. по: Coady 1985, p. 2). Так, насильственной может быть архитектура выбора, сокращение набора доступных альтернатив, возможностей, аффордансов, что, по сути, есть структурирование возможного поля действия другого — фукианское понимание власти (Фуко 2006a, с. 181). Под этим углом автономию у Гарвера можно понимать в том числе как ту свободу, которую Фуко делает отличительной чертой отношений власти: наличие реальной альтернативы насаждаемому властным отношением действию, а также возможность сопротивления этому насаждению (Там же, с. 180-182). Более того, если соотнести этот концепт с теорией Галтунга, тихое институционализированное насилие предстает как одна из форм структурного насилия², поскольку оно порождает асимметрию возможностей выбора, структурную асимметрию. Далее будут рассмотрены проявления контроля, порождающие асимметрии аффордансов.

Изначально для максимизации прибыли и конкурентоспособности на рынке было достаточно экстенсивного изменения масштабов сбора данных, что сделало предоставление данных условием получения товаров и услуг (Gandy 1996, p. 145); Шошанна Зубофф называет это «императивом извлечения» (Зубофф 2022, с. 263). Но вскоре эффекта от увеличения масштаба наблюдения стало недостаточно и потребовалось улучшение прогностического качества поведенческих данных, появляется «императив прогнозирования» (Там же). Надзорные капиталисты осознали, что «самый верный способ предсказать поведение — вмешаться и сформировать его у истока» (Там же, с. 265), используя средства управления поведением: манипуляции через архитектуру выбора и своевременное появление стимулов Зубофф называет «подстройкой» (tuning), тогда как непосредственное ограничение возможностей — «понуждением» (herding)³ (Там же, с. 385). Первый из этих двух подходов к изменению поведения создает асимметрию аффордансов, которую мы ранее назвали воспринимаемой, в то время как второй — реальную асимметрию аффордансов.

1 - В этом разделе «тихое (silent) наблюдение» алгоритмов (Introna, Wood 2004) концептуализируется как «тихое (quiet) насилие» по Гарверу.
2 - «Структурного» в трактовке Галтунга, «насилия» в трактовке Гарвера.
3 - Зубофф также выделяет третий подход, «обуславливание» — систему дрессировки посредством поощрений определенного поведения из работ бихевиориста Берреса Скиннера (Зубофф 2022, с. 387-388). Галтунг также отмечал, что насилие может осуществляться посредством поощрений за выгодное власть имущим поведение, если это в конечном итоге ведет к разрыву между потенциальными и актуальными реализациями (Galtung 1969, p. 170). 

Описывая уже упомянутый феномен паноптического разбора, Ганди одним из первых осознает, какую власть над спросом дает возможность таргетировать предложение. Профилирование и категоризация покупателей, анализ и систематизация их покупок сделали возможным предлагать им те товары, которые покупали другие представители их категории. Анализируя, кто какие товары чаще покупает вместе, продавцы стали манипулировать потребительским выбором, подталкивая покупателей к незапланированным покупкам (Gandy 1996, p. 144). Паноптический разбор является примером ранних попыток внедрения механизмов «подстройки», тогда как сегодня манипуляции через стимулы, основанные на сборе данных, стали куда изощреннее: Зубофф приводит в пример рекламу, таргетированную по геолокации смартфона индивида или даже по истории его типичных перемещений в это время суток (Зубофф 2022, с. 318). Реклама также может подбираться на основе прослушки разговоров подключенными к интернету девайсами, например, телевизором или умной колонкой (Там же, с. 346-347).

Рувруа и ее соавторы описали более продвинутые, чем у Ганди, механизмы манипуляций спросом с применением сложных алгоритмических систем. Они порождают уже не иерархию категорий (сортов покупателей), но более многомерное профилирование, где каждому соответствует сложная констелляция профилей (Rouvroy et al. 2013, p. 12, 27). Это позволяет делать предсказания тех же покупок не на категориальном, а на индивидуальном уровне. Кроме того, в работе Рувруа цифровое наблюдение вступает в альянс с цифровым интерфейсом: профилирование в режиме реального времени (сбор данных, их корреляционный анализ) позволяет предсказывать предрасположенности индивида, например, эластичность его спроса на товар, а интерфейс структурирует аффордансы так, чтобы добиться от индивида наиболее выгодного для платформы действия.

В качестве примера такой работы алгоритмического наблюдения с интерфейсом Рувруа приводит динамическое ценообразование (Ibid., p. 13). Если покупатель заходит на сайт и видит билеты на рейс по одной цене, покидает его в поисках более дешевых альтернатив и, вернувшись, видит цену ниже, велика вероятность, что он совершит покупку. Но так как алгоритм уже зафиксировал его интерес к покупке, он может поднять цену при следующем визите. Авиакомпании и агрегаторы билетов используют этот метод давно, но сегодня алгоритмизация позволяет делать это дешевле, быстрее и эффективнее — с учетом большего числа факторов. Цена может зависеть от того, заходит ли пользователь на сайт с мобильного телефона или компьютера (на телефоне, как правило, цены выше), в какой стране он находится (чем богаче страна, тем выше цены), и даже от того, насколько быстро он печатает, заполняя данные о поездке (Garbade 2011). Анализируя поведение покупателей, алгоритм может подстроить цену так, чтобы пользователь заплатил максимально возможную сумму, но при этом не ушел к конкуренту. Покупатель думает, что делает осознанный выбор, но в действительности алгоритм уже выбрал за него — адаптировал аффордансы таким образом, чтобы максимизировать прибыль. По мнению Рувруа и ее соавторов, так происходит разрушение субъектной автономии, а это, по Гарверу, тихое насилие (Rouvroy et al. 2013, p. 13, 17).

Еще более изощренный подход к манипуляции выбором через архитектуру аффордансов реализуется с помощью паттернов проектирования цифровых интерфейсов, получивших название «темные паттерны» (dark patterns). Так называют намеренно созданные элементы пользовательского интерфейса, которые подталкивают пользователя к действиям, которые он, вероятно, не совершил бы, если бы был полностью информирован (Gray et al. 2018). «Темные паттерны» эксплуатируют психологические особенности и ограниченность человеческого восприятия, чтобы направить пользователя к наиболее выгодному для платформы, но не обязательно для него самого выбору. К числу «темных паттернов» относят скрытую информацию о дополнительных расходах, преселект (предварительно выбранный за пользователя, но невыгодный ему вариант), подтверждение стыда (подталкивание к выбору более дорогого варианта сообщениями о том, что выбранный пользователем вариант «непопулярен»), подтверждение страха (сообщение об ограниченности товара или времени, чтобы подтолкнуть к импульсивной покупке), интерфейсную слепоту (представление важной информации в трудночитаемом виде или малозаметном месте), принудительную непрерывность (автоматическое продление платной подписки без уведомления, с трудной или неочевидной процедурой отмены), а также многие другие.

На примере «темных паттернов» хорошо видно, что асимметрия аффордансов создается через ограничение доступа к информации. В случае с динамическим ценообразованием пользователь не видит, как формируется цена. В случае с подтверждением страха ему демонстрируется, что «билетов осталось всего три», но он не знает, правда ли это. Конечно, в каком-то смысле архитектура выбора и «подталкивание» не являются чем-то новым: продавец на рынке всегда мог похвалить свой товар, назначить цену повыше для иностранца или придержать товар в ожидании более выгодного покупателя. Однако при продаже в интернете пользователь лишен возможности коммуникации, которая позволила бы ему более полно оценить ситуацию; он не знает, насколько его выбор релевантен его предпочтениям (у него нет возможности оценить товар лично, опросить других продавцов и т.д.). Кроме того, алгоритмические системы позволяют персонализировать манипуляции в масштабе, не имеющем аналогов в офлайн-торговле. Поэтому, как утверждает Зубофф, в надзорном капитализме производятся уже не просто товары, а «средства модификации поведения» (behavior modification apparatuses) — целые экосистемы, формирующие поведение пользователей (Зубофф 2022, с. 384).

«Темные паттерны» часто связаны с принудительным предоставлением согласия на обработку данных. Например, на сайте может быть кнопка «Я согласен», а кнопка «Я не согласен» — либо расположена неочевидно, либо её вообще нет; если пользователь хочет отказаться от обработки данных, он должен выполнить долгую и сложную процедуру. Этот прием называют sludge — «грязь», «отстой», «препятствие» (Sunstein 2021). Sludge затрудняет пользователю совершение невыгодных для платформы действий. Увеличение транзакционных издерж-choice и ограничение доступа к информации — еще одна форма асимметрии аффордансов.

Наконец, еще одной формой асимметрии аффордансов является создание реальных ограничений выбора через невозможность совершить определенные действия в принципе. Например, социальные сети могут не позволять пользователям менять настройки приватности, а онлайн-кинотеатры — отключать автопродление подписки иначе как через звонок в поддержку (Gray et al. 2018). В отличие от воспринимаемой асимметрии аффордансов, где пользователь может ошибаться относительно доступных ему возможностей, в случае с реальной асимметрией он не может совершить действие даже при полной информированности. Реальная асимметрия аффордансов — это уже не «подстройка», а «понуждение» в терминах Зубофф. Так, сайты знакомств могут запрещать удалять свой профиль и создавать новый, чтобы стимулировать пользователей покупать платные услуги для повышения рейтинга, а маркетплейсы могут блокировать возможность оставлять негативные отзывы (Gray et al. 2018). Примерами реальной асимметрии аффордансов, выходящей за пределы цифрового пространства, могут служить умные устройства интернета вещей (IoT). Производители автомобилей и бытовой техники могут через проприетарное программное обеспечение не только собирать данные о пользователях, но и ограничивать их возможности по ремонту и модификации устройств (например, запрет на установку неоригинальных запчастей или использование неавторизованных сервисных центров).

Итак, алгоритмическое наблюдение порождает структурную асимметрию аффордансов — неравенство возможностей выбора между наблюдателем и наблюдаемым. Наблюдатель (алгоритмическая система, платформа, корпорация) имеет доступ к данным о поведении наблюдаемого, знает его предпочтения, слабости и ограничения, может предсказывать его действия и влиять на них. Наблюдаемый же лишен такой информации о наблюдателе и часто даже не осознает, что его поведением манипулируют. Асимметрия аффордансов может быть как воспринимаемой (пользователь ошибается относительно доступных ему возможностей), так и реальной (возможности объективно ограничены). В обоих случаях она подрывает автономию субъекта, ограничивая его свободу выбора. По Гарверу, это и есть тихое насилие: люди систематически лишаются выбора из-за самого способа, которым совершаются операции. По Фуко, здесь возникает состояние господства — асимметричные отношения власти, где полоса свободы чрезвычайно сужена. По Галтунгу, это структурное насилие, так как социальная структура (архитектура цифровых платформ, алгоритмические системы) ограничивает человеческий потенциал и жизненные шансы, распределяя их неравномерно и несправедливо.

Заключение

В современном обществе «тот факт, что человек одарен способностью к поступку» лишь означает, «что он ускользает от всякой обозримости и вычислимости» (Арендт 2000, с. 232), причем это становится уже практически невозможным, ведь поднадзорность, прозрачность и предсказуемость стали условиями участия в социальной жизни и удовлетворения базовых потребностей.

Эволюция моделей управления представляет собой переход от архитектуры поведения к экологии действия. Контроль от субъективирующих техник, направленных на дифференцируемое множество, переходит к проактивной манипуляции условиями конкретных действий конкретных индивидов. Такому контролю становится сложнее сопротивляться, поскольку он исключает саму вероятность сопротивления.

Каждой модели контроля соответствует своя характерная техника наблюдения: паноптический надзор, дисциплинарная сортировка, секьюритизирующая категоризация, дигитализированная модуляция и алгоритмическое профилирование. Эти техники наблюдения действуют в логике соответствующих им парадигм управления, описанных Фуко.

Определенные Галтунгом антиэгалитарные паттерны в структуре распределения ресурсов, а также фукианское понятие состояний господства как асимметричных отношений власти, ограничивающих свободу субъектов, стали основой концептуализации структурного насилия как структурных асимметрий, специфичных для каждой модели контроля, что позволило рассмотреть различия структурного насилия не по депривируемым потребностям, как это делает Галтунг (Galtung 1990, p. 292), но по стратифицирующим принципам в социальной структуре. Каждая техника наблюдения порождает специфичную для нее структурную асимметрию в распределении ресурсов и жизненных шансов. Эти асимметрии приводят к неравенству возможностей и ограничению свободы выбора.

Логичным завершением данного анализа генеалогии наблюдения из работ Фуко, Делёза и Рувруа будет обращение к будущему. Зубофф обозначила тенденцию к выходу контроля аффордансов за пределы цифрового пространства, к управлению через физические интерфейсы, как в случае с автомобилем. Сегодня тело становится объектом пристального (само)наблюдения, а потому человеческий организм в конечном итоге тоже может стать таким интерфейсом. Подобный гормональной регуляции голода, применяемой сейчас в лекарствах для похудения, может появиться механизм биохимической регуляции намерений и мотиваций; тогда предсказание и проактивное подавление одних желаний и формирование искусственных, но выгодных системе других приведет к новым формам неравенства.

В любом случае дальнейшее развитие техник наблюдения будет происходить в логике развития моделей контроля и будет порождать новые структурные асимметрии, новые измерения структурного насилия, а потому его теоретикам необходимо уделять больше внимания этому феномену.