Надзор и структурное насилие: от Паноптикона к алгоритмам

В статье рассматривается феномен наблюдения (surveillance)  через призму  теорий «структурного насилия» Й. Галтунга и «тихого насилия» Н. Гарвера. Автор прослеживает эволюцию моделей контроля из работ И. Бентама, М. Фуко, Ж. Делёза и А. Рувруа — от паноптического до алгоритмического — и выделяет характерные для этих моделей техники наблюдения. Утверждается, что каждая из этих техник порождает специфичные для нее структурные асимметрии, или, как их называет Фуко, «состояния господства», в рамках которых возможно структурное насилие по Галтунгу. Вектор развития моделей контроля, находящий отражение в изменении доминирующих техник наблюдения, описывается как переход от архитектуры поведения (управление множеством через субъективирующие эффекты на индивидуальном уровне) к экологии действия (управлению конкретными выборами ради статистического эффекта на популяционном уровне). Роль наблюдения в воспроизводстве структурного насилия рассматривается на примере теорий «социальной сортировки» Д. Лиона, «паноптического разбора» О. Ганди и «надзорного капитализма» Ш. Зубофф. Особое внимание уделяется интерфейсам в алгоритмическом управлении, которые интегрируются с профилирующим наблюдением в единую систему, манипулирующую набором доступных пользователю аффордансов (Дж. Гибсон, Д. Нортон). Создаваемая техниками алгоритмической гувернаментальности, и самонаблюдения здоровья (mHealf) рассматриваются перспективы дальнейшего расширения интерфейса между человеком и алгоритмическими системами. Незаслуженно обделенное вниманием теоретиками насилия, наблюдение предстает основным механизмом структурного насилия в современном датафицированном обществе.

1. Арендт X. (2000) Vita activa, или О деятельной жизни. Алетейя.

2. Вебер М. (2008). Основные социологические понятия. Социологическое обозрение, 7(2), рр. 86–127. EDN: JWUSJL

3. Делёз Ж. (2004) Переговоры. 1972–1990. Наука. EDN: QWGJQZ

4. Дюркгейм Э. (1992) Норма и патология. Рубеж: Альманах социальных исследований, (2), с. 82–88.

5. Жижек С. (2010) О насилии. Издательство «Европа». EDN: QOMDEF

6. Зубофф Ш. (2022) Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти. Издательство Института Гайдара.

7. Родионова М.М., & Смирнов Н.М. (2022) Корабль Тесея: трансформации понятия насилия в политической и социальной теории. Полития: Анализ. Хроника. Прогноз, (3), с. 6–27. EDN: LOWNBU. https://doi.org/10.30570/2078-5089-2022-106-3-6-27

8. Фуко М. (2002a) Нужно защищать общество (с. 210–219). В сборнике: Визгин В.П. & Скуратов Б.М. (ред.) Интеллектуалы и власть: Избранные политические статьи, выступления и интервью. Часть 1. Праксис.

9. Фуко М. (2002b) Око власти (с. 220–248). В сборнике: Визгин В.П. & Скуратов Б.М. (ред.) Интеллектуалы и власть: Избранные политические статьи, выступления и интервью. Часть 1. Праксис.

10. Фуко М. (2005) «Нужно защищать общество»: курс лекций, прочитанных в Коллеж де Франс в 1975–1976 учебном году. Наука. EDN: QWLMUN

11. Фуко М. (2006a) Субъект и власть (с. 161–190). В сборнике: Большаков В.П. (ред.) Интеллектуалы и власть: Избранные политические статьи, выступления и интервью. Часть 3. Праксис.

12. Фуко М. (2006b) Этика заботы о себе как практика свободы (с. 241–270). В сборнике: Большаков В.П. (ред.) Интеллектуалы и власть: Избранные политические статьи, выступления и интервью. Часть 3. Праксис.

13. Фуко М. (2011) Безопасность, территория, население. Курс лекций, прочитанных в Коллеж де Франс в 1977–1978 учебном году. Наука. EDN: QXBZNV

14. Фуко М. (2015) Надзирать и наказывать. Рождение тюрьмы. Ad Marginem: Музей современного искусства «Гараж».

15. Bellanova R., Irion K., Lindskov Jacobsen K., Ragazzi F., Saugmann R. & Suchman L. (2021) Toward a critique of algorithmic violence. International Political Sociology, 15(1), рр. 121–150. https://doi.org/10.1093/ips/olab003

16. Bentham J. (1995) The Panopticon Writings (M. Božovič, Ed.). Verso.

17. Bentham J. (1834) Deontology or, The science of morality (J. Bowring, Ed.). Longman, Rees, Orme, Brown, Green and Longman.

18. Betz J. (1977) Violence: Garver’s definition and a Deweyan correction. Ethics, 87(4), рр. 339–351. https://doi.org/10.1086/292046

19. Bowker G.C. & Star S. L. (2000) Sorting things out: Classification and its consequences. MIT press.

20. Clarke R. (1988) Information technology and dataveillance. Communications of the ACM, 31(5), рр. 498–512. https://doi.org/10.1145/42411.42413

21. Coady C.A. J. (1985) The idea of violence. Philosophical Papers, 14(1), рр. 1–19. https://doi.org/10.1080/05568648509506233

22. Dodds C. (2020) In Fear of Black Revolutionary Contagion and Insurrection: Foucault, Galtung, and the Genesis of Racialized Structural Violence in American Foreign Policy and Immigration Law. Michigan Journal of Race & Law, 26, рр. 371–441. https://doi.org/10.36643/mjrl.26.2.fear

23. Eubanks V. (2017) Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor. St. Martin’s Press.

24. Feldstein S. (2019) The road to digital unfreedom: How artificial intelligence is reshaping repression. Journal of Democracy, 30(1), рр. 40–52. https://doi.org/10.1353/jod.2019.0003

25. Fiske J. (1998) Surveilling the City: Whiteness, the Black Man and Democratic Totalitarianism. Theory, Culture & Society, 15(2), рр. 67–88. https://doi.org/10.1177/026327698015002003

26. Fopp R. (2002) Increasing the Potential for Gaze, Surveillance and Normalisation: the transformation of an Australian policy for people who are homeless. Surveillance & Society, 1(1), рр. 48–65. https://doi.org/10.24908/ss.v1i1.3393

27. Galič M., Timan T. & Koops B. J. (2017) Bentham, Deleuze and beyond: An overview of surveillance theories from the panopticon to participation. Philosophy & Technology, 30, рр. 9–37. https://doi.org/10.1007/s13347-016-0219-1

28. Galtung J. (1969) Violence, peace, and peace research. Journal of peace research, 6(3), рр. 167–191.

29. Galtung J. (1990) Cultural violence. Journal of peace research, 27(3), рр. 291–305. https://doi.org/10.1177/0022343390027003005

30. Gandy O.H. (1996) Coming to Terms with the Panoptic Sort (pp. 132–155). In Lyon D. & Zureik E. (Eds.) Computers, surveillance, and privacy. University of Minnesota Press.

31. Garver N. (1968) What Violence Is. The Nation, 209(24), рр. 819–822.

32. Giddens A. (1985) The Nation-State and Violence. Polity Press.

33. Gilliom J. (2001) Overseers of the poor: Surveillance, resistance, and the limits of privacy. University of Chicago Press.

34. Graham S. & Wood D. (2003) Digitizing Surveillance: Categorization, Space, Inequality. Critical Social Policy, 23(2), рр. 227–248. http://doi.org/10.1177/0261018303023002006

35. Gray C.M., Kou Y., Battles B., Hoggatt J. & Toombs A. L. (2018) The dark (patterns) side of UX design (pp. 1–14). In Proceedings of the 2018 CHI Conference on Human Factors in Computing Systems. https://doi.org/10.1145/3173574.3174108

36. Haggerty K. & Ericson R. (2000) The Surveillant Assemblage. The British journal of sociology, 51(4), рр. 605–622. https://doi.org/10.1080/00071310020015280

37. Humphries J. (2013) Childhood and child labour in the British industrial revolution. The Economic History Review, 66(2), рр. 395–418. https://doi.org/10.1111/j.1468-0289.2012.00651.x

38. Introna L. & Wood D. (2004) Picturing algorithmic surveillance: The politics of facial recognition systems. Surveillance & Society, 2(2/3), рр. 177–198. https://doi.org/10.24908/ss.v2i2/3.3373

39. Johnson E. J., Shu S.B., Dellaert B.G., Fox C., Goldstein D.G., Häubl G., Larrick R.P., Payne J.W., Peters E., Schkade D., Wansink B. & Weber E.U. (2012) Beyond nudges: Tools of a choice architecture. Marketing letters, 23, рр. 487–504. https://doi.org/10.1007/s11002-012-9186-1

40. Kitchin R. (2020) Civil liberties or public health, or civil liberties and public health? Using surveillance technologies to tackle the spread of COVID-19. Space and Polity, 24(3), рр. 362–381. https://doi.org/10.1080/13562576.2020.1770587

41. Koskela H. (2012) «You shouldn’t wear that body»: the problematic of surveillance and gender (pp. 49–56). In Ball K., Haggerty K. & Lyon D. (Eds.) Routledge handbook of surveillance studies. Routledge.

42. Lianos M. & Douglas M. (2000) Dangerization and the End of Deviance: The Institutional Environment (pp. 261–278). In Sparks R. & Garland D. (Eds.) Criminology and Social Theory. Oxford University Press. https://doi.org/10.1093/bjc/40.2.261

43. Lyon D. (2006) Airport screening, surveillance, and social sorting: Canadian responses to 9/11 in context. Canadian Journal of Criminology and Criminal Justice, 48(3), рр. 397–411. http://doi.org/10.1353/ccj.2006.0030

44. Lyon D. (2005) Surveillance as social sorting: Computer codes and mobile bodies (pp. 27–44). In Lyon D. (Ed.) Surveillance as social sorting. Routledge. https://doi.org/10.4324/9780203994887

45. Lyon D. (2022a) Pandemic surveillance. Polity Press.

46. Lyon D. (2022b) Surveillance. Internet Policy Review, 11(4), рр. 1–18. http://doi.org/10.14763/2022.4.1673

47. Maras M.H. & O’Brien W. (2023) Discrimination, stigmatization, and surveillance: COVID-19 and social sorting. Information & Communications Technology Law, 32(1), рр. 122–148. https://doi.org/10.1080/13600834.2022.2101295

48. Marx G. T. (2015) Surveillance studies (2nd ed., pp. 733–741). In Wright J.D. (Ed.) International Encyclopedia of the Social & Behavioral Sciences. Elsevier. http://doi.org/10.1016/B978-0-08-097086-8.64025-4

49. McGrenere J. & Ho W. (2000) Affordances: Clarifying and evolving a concept (pp. 179–186). In Proceedings of the Graphics Interface 2000 Conference. https://doi.org/10.20380/GI2000.24

50. Monahan T. (2008) Surveillance and inequality. Surveillance & Society, 5(3), рр. 217–226. https://doi.org/10.24908/ss.v5i3.3421

51. Monahan T. (2010) Surveillance as governance: social inequality and the pursuit of democratic surveillance (pp. 107–126). In Haggerty K.D. & Samatas M. (Eds.) Surveillance and democracy. Routledge-Cavendish.

52. Nail T. (2016) Biopower and control (pp. 247–263). In Morar N., Nail T. & Smith D.W. (Eds.) Between Deleuze and Foucault. Edinburgh University Press. https://doi.org/10.1515/9781474415095-017

53. Noble S.U. (2018) Algorithms of Oppression: How Search Engines Reinforce Racism. NYU Press.

54. Onuoha M. (2018, February 7). Notes on algorithmic violence. GitHub. https://github.com/MimiOnuoha/On-Algorithmic-Violence

55. Rasmussen M.B. (2024) The great standardisation: Working hours around the world. Labor History, 65(4), рр. 563–591. https://doi.org/10.1080/0023656X.2023.2291512

56. Rouvroy A., Berns T. & Carey-Libbrecht L. (2013) Algorithmic governmentality and prospects of emancipation. Réseaux, 177(1), рр. 163–196. https://shs.cairn.info/journalreseaux-2013-1-page-163?lang=en

57. Safransky S. (2020) Geographies of algorithmic violence: Redlining the smart city. International Journal of Urban and Regional Research, 44(2), рр. 200–218. https://doi.org/10.1111/1468-2427.12833

58. Sunstein C.R. (2021) Sludge: What stops us from getting things done and what to do about it. MIT Press.