Туманности нейросетей: «черные ящики» технологий и наглядные уроки непрозрачности алгоритмов
https://doi.org/10.22394/2074-0492-2020-2-157-182
EDN: OJYPQZ
Аннотация
В статье утверждается, что: 1) современные технологии, моделирующие искусственный интеллект на основе знания нейронаук, служат наглядным эмпирическим подтверждением теоретических аргументов, высказанных в исследованиях наук и технологий в конце 1980-х - начале 1990-х годов; 2) актуальная дискуссия о непрозрачности алгоритмов позволяет сместить перспективу на классический, но амбивалентный для STS троп раскрытия «черных ящиков». Для демонстрации этого, во-первых, дается экспозиция проблемы нейтральности и прозрачности технологий. Анализируются три типичных ответа на проблему нейтральности технологий внутри и за пределами конструктивистских STS. Утверждается, что несмотря на поверхностные различия между ними, все три ответа одинаково концептуализируют технологию как нейтральный проводник. Во-вторых, показывается связь проблемы нейтральности и прозрачности технологий с ключевым для исследований наук и технологий (STS) тропом раскрытия «черных ящиков» технологий. Обсуждаются социально-политическое и методологическое измерения метафоры «черного ящика». В-третьих, альтернатива концептуализации технологии как нейтральной ищется в акторно-сетевой теории Бруно Латура. Здесь технологии понимаются как событийная ассоциация разнородных сущностей, нередуцируемая к условиям ее возможности. Конструирование технологий понимается как процесс медиации, где создания удивляют своих создателей и наоборот. В акторно-сетевой теории Латура технологии рассматриваются как непрозрачные и не-нейтральные сущности. Наконец, приводятся примеры из области технологий на основе нейросетей и алгоритмов глубокого машинного обучения, которые являются наглядным и эмпирическим подтверждением латуровской концепции технической медиации. Отдельное внимание уделяется непрозрачности и (не)под-отчетности алгоритмов машинного обучения. |
Об авторе
Андрей Г. Кузнецов
Европейский университет в Санкт-Петербурге; Университет ИТМО, Санкт-Петербург, Россия
Россия
Россия
кандидат социологических наук, научный сотрудник Центра исследований науки и технологий Европейского университета в Санкт-Петербурге; ординарный доцент Университета ИТМО.
Список литературы
1. Каллон М. (2015) Некоторые элементы социологии перевода: одомашнивание морских гребешков и рыбаков залива Сен-Бриё. Социология власти, 27 (1):
2. –231.
3. —Callon M. (2015) Some Elements of a Sociology of Translation: Domestication
4. of the Scallops and the Fishermen of St Brieuc Bay. Sociology of Power, 27 (1): 196–
5. —in Russ.
6. Кузнецов А.Г. (2015) Латур и его «технолог»: вещи, объекты и технологии в акторно-сетевой теории. Социология власти, 27 (1): 55–89.
7. — Kuznetsov A.G. (2015) Latour and His “Technologist”: Things, Objects,
8. and Technologies in Actor-Network Theory. Sociology of Power, 27 (1): 55–89. —
9. in Russ.
10. Латур Б., Вулгар С. (2012) Лабораторная жизнь. Конструирование научных
11. фактов. Глава 2. Антрополог посещает лабораторию. Социология власти, 6–7:
12. –234.
13. — Latour B. (2012) Laboratory Life. Chapter 2. An Anthropologist Visits the
14. Laboratory. Sociology of Power, 6–7: 178–234.—in Russ.
15. Латур Б. (2006) Об интеробъективности. В.С. Вахштайн (ред.) Социология вещей,
16. М.: Изд. дом «Территория будущего»: 169–199.
17. —Latour B. (2006) On Interobjectivity. V.S. Vakhshtayn (ed.) Sociology of Things, M.:
18. Territory of the Future: 169–199.—in Russ.
19. Латур Б. (2013) Наука в действии: следуя за учеными и инженерами внутри общества,
20. СПб.: Изд-во Европейского ун-та в С.-Петербурге.
21. —Latour B. (2013) Science in Action: How to Follow Scientists and Engineers Through
22. Society, SPb.: EUSP.—in Russ.
23. Латур Б. (2014) Пересборка социального: введение в акторно-сетевую теорию, М.: ИД
24. ВШЭ.
25. —Latour B. (2014) Reassembling the Social: An Introduction to Actor-Network-Theory,
26. M.: HSE.—in Russ.
27. Скотт Дж. (2005) Благими намерениями государства, М.: Университетская книга.
28. —Scott J. (2005) Seeing Like a State, M.: University book.—in Russ.
Рецензия
Для цитирования:
Кузнецов А.Г. Туманности нейросетей: «черные ящики» технологий и наглядные уроки непрозрачности алгоритмов. Социология власти. 2020;32(2):157-182. https://doi.org/10.22394/2074-0492-2020-2-157-182. EDN: OJYPQZ
For citation:
Kuznetsov A.G. Neural Network Nebulaе: ‘Black Boxes’ of Technologies and Object-Lessons from the Opacities of Algorithms. Sociology of Power. 2020;32(2):157-182. https://doi.org/10.22394/2074-0492-2020-2-157-182. EDN: OJYPQZ
Просмотров:
15
Послать статью по эл. почте 