Preview

Социология власти

Расширенный поиск

Туманности нейросетей: «черные ящики» технологий и наглядные уроки непрозрачности алгоритмов

https://doi.org/10.22394/2074-0492-2020-2-157-182

EDN: OJYPQZ

Аннотация

В статье утверждается, что: 1) современные технологии, моделирующие искусственный интеллект на основе знания нейронаук, служат наглядным эмпирическим подтверждением теоретических аргументов, высказанных в исследованиях наук и технологий в конце 1980-х - начале 1990-х годов; 2) актуальная дискуссия о непрозрачности алгоритмов позволяет сместить перспективу на классический, но амбивалентный для STS троп раскрытия «черных ящиков». Для демонстрации этого, во-первых, дается экспозиция проблемы нейтральности и прозрачности технологий. Анализируются три типичных ответа на проблему нейтральности технологий внутри и за пределами конструктивистских STS. Утверждается, что несмотря на поверхностные различия между ними, все три ответа одинаково концептуализируют технологию как нейтральный проводник. Во-вторых, показывается связь проблемы нейтральности и прозрачности технологий с ключевым для исследований наук и технологий (STS) тропом раскрытия «черных ящиков» технологий. Обсуждаются социально-политическое и методологическое измерения метафоры «черного ящика». В-третьих, альтернатива концептуализации технологии как нейтральной ищется в акторно-сетевой теории Бруно Латура. Здесь технологии понимаются как событийная ассоциация разнородных сущностей, нередуцируемая к условиям ее возможности. Конструирование технологий понимается как процесс медиации, где создания удивляют своих создателей и наоборот. В акторно-сетевой теории Латура технологии рассматриваются как непрозрачные и не-нейтральные сущности. Наконец, приводятся примеры из области технологий на основе нейросетей и алгоритмов глубокого машинного обучения, которые являются наглядным и эмпирическим подтверждением латуровской концепции технической медиации. Отдельное внимание уделяется непрозрачности и (не)под-отчетности алгоритмов машинного обучения.

Об авторе

Андрей Г. Кузнецов
Европейский университет в Санкт-Петербурге; Университет ИТМО, Санкт-Петербург, Россия
Россия

кандидат социологических наук, научный сотрудник Центра исследований науки и технологий Европейского университета в Санкт-Петербурге; ординарный доцент Университета ИТМО.



Список литературы

1. Каллон М. (2015) Некоторые элементы социологии перевода: одомашнивание морских гребешков и рыбаков залива Сен-Бриё. Социология власти, 27 (1):

2. –231.

3. —Callon M. (2015) Some Elements of a Sociology of Translation: Domestication

4. of the Scallops and the Fishermen of St Brieuc Bay. Sociology of Power, 27 (1): 196–

5. —in Russ.

6. Кузнецов А.Г. (2015) Латур и его «технолог»: вещи, объекты и технологии в акторно-сетевой теории. Социология власти, 27 (1): 55–89.

7. — Kuznetsov A.G. (2015) Latour and His “Technologist”: Things, Objects,

8. and Technologies in Actor-Network Theory. Sociology of Power, 27 (1): 55–89. —

9. in Russ.

10. Латур Б., Вулгар С. (2012) Лабораторная жизнь. Конструирование научных

11. фактов. Глава 2. Антрополог посещает лабораторию. Социология власти, 6–7:

12. –234.

13. — Latour B. (2012) Laboratory Life. Chapter 2. An Anthropologist Visits the

14. Laboratory. Sociology of Power, 6–7: 178–234.—in Russ.

15. Латур Б. (2006) Об интеробъективности. В.С. Вахштайн (ред.) Социология вещей,

16. М.: Изд. дом «Территория будущего»: 169–199.

17. —Latour B. (2006) On Interobjectivity. V.S. Vakhshtayn (ed.) Sociology of Things, M.:

18. Territory of the Future: 169–199.—in Russ.

19. Латур Б. (2013) Наука в действии: следуя за учеными и инженерами внутри общества,

20. СПб.: Изд-во Европейского ун-та в С.-Петербурге.

21. —Latour B. (2013) Science in Action: How to Follow Scientists and Engineers Through

22. Society, SPb.: EUSP.—in Russ.

23. Латур Б. (2014) Пересборка социального: введение в акторно-сетевую теорию, М.: ИД

24. ВШЭ.

25. —Latour B. (2014) Reassembling the Social: An Introduction to Actor-Network-Theory,

26. M.: HSE.—in Russ.

27. Скотт Дж. (2005) Благими намерениями государства, М.: Университетская книга.

28. —Scott J. (2005) Seeing Like a State, M.: University book.—in Russ.


Рецензия

Для цитирования:


Кузнецов А.Г. Туманности нейросетей: «черные ящики» технологий и наглядные уроки непрозрачности алгоритмов. Социология власти. 2020;32(2):157-182. https://doi.org/10.22394/2074-0492-2020-2-157-182. EDN: OJYPQZ

For citation:


Kuznetsov A.G. Neural Network Nebulaе: ‘Black Boxes’ of Technologies and Object-Lessons from the Opacities of Algorithms. Sociology of Power. 2020;32(2):157-182. https://doi.org/10.22394/2074-0492-2020-2-157-182. EDN: OJYPQZ

Просмотров: 0


Creative Commons License
Контент доступен под лицензией Creative Commons Attribution 4.0 License.


ISSN 2074-0492 (Print)
ISSN 2413-144X (Online)