Как объяснить технологические аварии? «Человеческий фактор», социальный конструктивизм и онтологический поворот в изучении неопределенностей беспилотных автомобилей

В публичном дискурсе о технологических авариях доминирует популярное объяснение через «человеческий фактор». Оно делает сущностное утверждение, что человек по определению склонен ошибаться, а машина - нет. В сфере беспилотного транспорта оно появилось в результате демодализации американскими СМИ, а затем стейкхолдерами БА результатов исследования Национальной администрации дорожной безопасности США 2008 года, которое утверждало, что водители - критическая причина 94% всех ДТП. В данной статье мы хотим показать, какие теоретические и социально-политические проблемы существуют с объяснением через «человеческий фактор». Для этого мы рассматриваем альтернативу в виде концепции технологической системы как конфликтующего набора правил, которые следуют за контекстуализирующими практиками, которую предложил британский социолог Брайан Уинн. Мы сравниваем такое толкование с объяснением девиантного поведения, которое Роберт Мертон дал в работах 1930-х гг. Критикуя утилитаристов, Мертон показывает, что девиации вызываются противоречиями в социокультурной структуре общества. В обоих концепциях сбои предстают как результат реляционных эффектов напряжения и противоречия между элементами систем. В качестве иной, и более реалистичной альтернативы работе с авариями мы предлагаем идеи Аннемари Мол и Джона Ло. Последние, анализируя аварии, выделили четыре режима определения блага внутри споров после аварий: мобильная утопия, абсолютизм, менеджеризм и практические манипуляции. Мы показываем, что и объяснение через человеческий фактор, и теория Мертона, и отчасти STS склоняются к утопическим режимам (первым трем), в то время как последний режим, опирающийся на онтологический поворот, предлагает радикальный проект изменения режимов объяснения и обвинений в авариях: он позволяет артикулировать иные отношения между онтологиями аварий, сделать неутопистские версии технологий более реальными и публичными.

1. Голыжбина О. (2019) Дмитрий Полищук, "Яндекс": "Абсолютно гарантировано, что беспилотное такси будет дешевле обычного". Реальное время. https:// realnoevremya.ru/articles/148125-pochemu-bespilotniki-yandeksa-do-sih-por-ne-vyshli-na-dorogi. -.

2. Киселева М. (2022) Аффицирования, артикуляции, обучение: к техноантропо-логической симметризации тел водителей и беспилотных автомобилей. Этнографическое обозрение, 1 (в печати).

3. Кузнецов А. (2020) Туманности нейросетей: "черные ящики" технологий и наглядные уроки непрозрачности алгоритмов. Социология власти, 32 (2): 157-182. EDN: OJYPQZ

4. Кузнецов А. (2022) Симметричная антропология технологий: от культур к коллективам мобильностей в описании беспилотных автомобилей. Этнографическое обозрение, 1 (в печати).

5. Латур Б. (2012) Политика объяснения: альтернатива. Социология власти, 8: 113-143. EDN: RPYPNP

6. Латур Б., Вулгар С. (2012) Лабораторная жизнь. Конструирование научных фактов. Глава 2. Антрополог посещает лабораторию. Социология власти, 1 (6-7): 178-234. EDN: RNIFHJ

7. Руденко Н. (2018) Четыре смерти Элен Херцберг. Археология русской смерти, 6: 97-99.

8. Руденко Н. (2022) Симметричная антропология тестирования беспилотных автомобилей. Этнографическое обозрение, 1 (в печати).

9. Софрыгин А. (2019) Первое ДТП Беспилотника Яндекса на общих дорогах. Виноват водитель или беспилот? Bespilot.com. https://bespilot.com/news/508-yandex-crash.

10. Barry K. (2021) Elon Musk, Self-Driving, and the Dangers of Wishful Thinking: How Tesla's Marketing Hype Got Ahead of Its Technology. Consumer Reports. https://www.consumerreports.org/automotive-industry/elon-musk-tesla-self-driving-and-dangers-of-wishful-thinking-a8114459525.

11. Elish M. (2019) Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction.

12. Engaging Science, Technology, and Society, 5: 46-60.

13. Engels F., Wentland A., Pfotenhauer S. M. (2019) Testing future societies? Developing a framework for test beds and living labs as instruments of innovation governance. Research Policy, 48 (9): 1-11.

14. Fujimura J. H. (1988) The molecular biological bandwagon in cancer research: Where social worlds meet. Social Problems, 35 (3): 261-283.

15. General Motors (2021) Safety. https://www.gm.com/stories/self-driving-cars.

16. Halsey III A. (2019) More Americans have died in car crashes since 2000 than in both World Wars. The Washington Post. https://www.washingtonpost.com/local/trafficandcommuting/more-people-died-in-car-crashes-this-century-than-in-bothworld-wars/2019/07/21/0ecc0006-3f54-11e9-9361-301ffb5bd5e6_story.html.

17. Hind S. (2019) Digital navigation and the driving-machine: supervision, calculation,optimization, and recognition. Mobilities, 14 (4): 401-417.

18. Latour B. (1992a) One More Turn after the Social Turn: Easing Science Studies into the Non-Modern World. McMullin E. (ed.) The Social Dimensions of Science. Notre Dame,Ind.: University of Notre Dame Press: 272-292.

19. Latour B. (1992b) Where are the missing masses? The sociology of a few mundane artifacts. W. Bijker, J. Law (eds) Shaping technology/building society: Studies in sociotechnical change. Cambridge, Massachusetts; London, England: the MIT Press:225-258.

20. Latour B. (2004) Why Has Critique Run out of Steam? From Matters of Fact to Matters of Concern. Critical Inquiry, 30 (2): 225-248. EDN: GLMHOT

21. Latour B., Fabbri P. (2000) The Rhetoric of Science: Authority and Duty in an Article from Exact Science. Technostyle, 16 (1): 115-134.

22. Laurent B., Tironi M. (2015) A field test and its displacements. Accounting for an experimental mode of industrial innovation. CoDesign, 11 (3-4): 208-221.

23. Law J., Mol A. (2002) Local Entanglements or Utopian Moves: An Inquiry into Train Accidents. The Sociological Review, 50 (1_suppl): 82-105.

24. Lazy Replays (2021) Tesla runs into several traffic lights while over 120km/h. YouTube. https://www.youtube.com/watch?v=cO_tOq4W68w.

25. Leonardi P. M. (2012) Car Crashes Without Cars: Lessons about Simulation Technology and Organizational Change from Automotive Design. Cambridge, Mass.: MIT Press.

26. MacInnes P. (2021) Toyota pauses Paralympics self-driving buses after one hits a visually impaired athlete. The Guardian. https://www.theguardian.com/technology/2021/aug/28/toyota-pauses-paralympics-self-driving-buses-after-one-hits-visually-impaired-athlete.

27. Madrigal A. (2017) Inside Waymo's Secret World for Training Self-Driving Cars. The Atlantic. https://www.theatlantic.com/technology/archive/2017/08/inside-waymos-secret-testing-and-simulation-facilities/537648.

28. Marres N. (2020) What If Nothing Happens? Street Trials of Intelligent Cars as Experiments in Participation. S. Maasen, S. Dickel, C. Schneider (eds.).

29. Techno Science Society: Technological Reconfigurations of Science and Society. Nijmegen: Springer/Kluwer: 111-130.

30. Merton R. K. (1938) Social Structure and Anomie. American Sociological Review, 3 (5): 672-682.

31. National Highway Transport Safety Agency (2021) The Evolution of Automated Safety Technologies. https://www.nhtsa.gov/technology-innovation/automated-vehicles-safety.

32. National Motor Vehicle Crash Causation Survey (2008). Report to Congress. U. S. Department of Transportation. National Highway Traffic Safety Administration. https://crashstats.nhtsa.dot.gov/Api/Public/ViewPublication/811059.

33. Perchonok K. (1972) Accident cause analysis. Final Report. Cornell Aeronautical Laboratory, Inc. Prepared for U. S. Department of Transportation, National Highway Traffic Safety Administration.

34. Rapier G. (2020) Tesla's Autopilot confused a Burger King sign for a stop sign. The fastfood chain turned it into an ad. Business Insider. https://www.businessinsider.com/tesla-autopilot-mistakes-burger-king-stop-sign-new-ad-2020-6.

35. Recode (2021) Waymo Co-CEO Tekedra Mawakana. YouTube. https://www.youtube.com/watch?v=xaYCT7woLMo.

36. Reddit (2021) Waymo DMV Collision Report on June 16th Collision with a Scooter (Waymo was in manual mode for 4 seconds before the crash). Reddit. https://www.reddit.com/r/SelfDrivingCars/comments/ofs9hc/waymo_dmv_collision_report_on_june_16th_collision.

37. Rheinberger H. J. (1997) Toward a History of Epistemic Things: Synthesizing Proteins in the Test Tube. Stanford, California: Stanford University Press.

38. Singh S. (2008) Critical Reasons for Crashes Investigated in the National Motor Vehicle Crash Causation Survey. Traffic Safety Facts. Crash Stats. Department of Transportation. National Highway Traffic Safety Administration. https://crashstats.nhtsa.dot.gov/Api/Public/ViewPublication/812115.

39. Stilgoe J. (2018) Machine learning, social learning and the governance of self-driving cars. Social Studies of Science, 48 (1): 25-56.

40. Stilgoe J., Owen R., Macnaghten P. (2013) Developing a framework for responsible innovation. Research Policy, 42 (9): 1568-1580.

41. State of California. Department of Motor Vehicles (2021) Report of traffic collision involving an autonomous vehicle. https://www.dmv.ca.gov/portal/file/waymo_061621-pdf.

42. Vinsel L. (2015) Designing to the test: performance standards and technological change in the US automobile after 1966. Technology and culture, 56 (4): 868-894.

43. Wrong D. H. (1961) The Oversocialized Conception of Man in Modern Sociology. American Sociological Review, 26 (2): 183-193.

44. Wynne B. (1988) Unruly Technology: Practical Rules, Impractical Discourses and Public Understanding. Social Studies of Science, 18 (1): 147-167. EDN: JPZILV

45. Zipper D. (2021) The Deadly Myth That Human Error Causes Most Car Crashes. The Atlantic. https://www.theatlantic.com/ideas/archive/2021/11/deadly-myth-human-error-causes-most-car-crashes/620808.