СИНГУЛЯРНОСТЬ ВСЕХ ЦВЕТОВ КОЖИ

© 2021 Алеша СЕРАДА

МАиБ 2021 – № 1 (21)

DOI: https://doi.org/10.33876/2224-9680/2021-1-21/06

Ссылка при цитировании:

Серада А. (2021) Сингулярность всех цветов кожи, Медицинская антропология и биоэтика, 1(21).

Алеша Серада –

аспирант Школы коммуникаций

в Ваасском университете (Вааса, Финляндия),

магистр социологии Европейского гуманитарного университета (Вильнюс, Литва)

https://orcid.org/0000-0001-6559-7686

E—mail: aserada@uwasa.fi

Ключевые слова: робоэтика, искусственный интеллект, критическая теория расы, постсоциализм

Аннотация: Каким образом наши стереотипы о расе воплощаются в виртуальных и искусственных существах – таких как роботы и другие искусственные агенты? Анализируя новаторские технологии автоматизации и искусственного интеллекта, антропологи Неда Атанасоски и Калинди Вора объединяют проблемы искусственного интеллекта и расовое неравенство через новую концепцию «суррогатной человечности». С помощью этой концепции они критикуют представления о свободе западного либерального субъекта, а также описывают структурное угнетение в технолиберальном капитализме. Показательно, что их выводы отчасти подтверждаются из перспективы реального, а не утопического (пост-) социализма в художественном мире «Гостьи из Будущего» у роботов действительно намного больше прав, чем в американской фантастике.

Atanasoski, Neda, and Kalindi Vora. Surrogate Humanity: Race, Robots, and the Politics of Technological Futures. Duke University Press, 2019. 250 pp.: рецензия

Последнее советское поколение, возможно, еще помнит сборник научной фантастики «Безработный робот» в красочной обложке «Библиотеки приключений и фантастики», изданный в 1989 году. Одноименный рассказ Гарри Гаррисона, впервые опубликованный в 1956-м, был переведен на излете оттепели, в 1969 году; в оригинале он был назван более метафорично: «Бархатная перчатка» (Harrison 2009), что намекает на железную руку, которую эта перчатка прикрывает («An Iron Hand/Fist in a VelvetGlove» 2013). Даже спустя тридцать лет киберпанка1 этот рассказ по-прежнему остается кратким и удобным введением в главную проблему на пересечении робоэтики и критической теории расы.

Итак, давайте представим себе будущее, в котором искусственный интеллект способен осознавать себя как личность и отвечать за собственные действия. Согласно законам, по которым мы живем сейчас, даже такой одушевленный робот будет являться чьей-то собственностью, поскольку он в первую очередь машина, причем, скорее всего, очень дорогостоящая. Вероятно, эта машина была приобретена или арендована для выполнения определенных задач, грубо говоря – работы, что предполагает экономический интерес ее владельца или арендатора. (Мы сейчас говорим о будущем, в котором разумные роботы – уже не любимцы публики на YouTube-каналах мировых исследовательских центров, а обыденные нечеловеческие агенты2, запущенные в массовое производство). Пойдет ли процесс наделения искусственных людей человеческими правами по той же траектории, что и отмена рабства, демонтаж расовой сегрегации и дальнейшая борьба с дискриминацией в США? Саморефлексивность научной фантастики позволяет поставить и более актуальный вопрос: каким образом наши стереотипы о расе уже сегодня воплощаются в виртуальных и искусственных существах? И что это говорит о нас самих?

На эти вопросы отвечает книга «Суррогатная человечность: Раса, роботы и политические сценарии технологического будущего» (Surrogate Humanity: Race, Robots, and the Politics ofTechnological Futures), изданная в 2019 году Duke University Press. Неда Атанасоски занимается гендерными исследованиями и критической расовой теорией, в том числе в контексте Восточной Европы и Балканского региона. Ее академическая карьера началась и продолжается в Калифорнии. Калинди Вора, также американка и профессор гендерных исследований, проводила антропологический анализ суррогатного материнства в Индии. Вместе исследовательницы занимаются разработкой продуктивной версии теоретического «постсоциализма», который в спекулятивном будущем должен будет расшатать основы капитализма западного образца (Pagulich and Shchurko 2020). В этом они исходят из квир-теории, но не из постсоциалистической реальности, данной нам в восприятии или хотя бы в языке, отличном от английского. Как и многие другие американские “левые”, авторы склонны видеть в проблемах советского «реального социализма» конструкт американской антикоммунистической паранойи (Atanasoski and Vora 2019: 40). Будучи квир-персоной3 и беженцем из реального белорусского постсоциализма, я имею несколько серьезных вопросов к такому исследовательскому кредо, пусть они и выходят за рамки данной рецензии. Оказалось, робоэтика – это гораздо более благодарный предмет для обсуждения с точки зрения утопического социализма, нежели реальный социализм. К тому же, по состоянию на 2021 год, на Земле вряд ли найдется хотя бы один робот, способный вступить в политическую дискуссию по поводу собственной исторической судьбы.

Забавно, что отсутствие политического сознания у роботов также обсуждается в рассматриваемой книге (Atanasoski, Vora 2019: 36), — именно это делает эти искусственные технологические создания таким удобным фундаментом для воплощения американской мечты. Отметим, впрочем, что главный герой «Безработного робота» уже хранил в своей электронной памяти коммунистический памфлет под названием «Роботы — рабы мировой экономической системы» (Гаррисон 1989), так что эта идея не так уж и нова. Основной мотив книги – это критика западного, в первую очередь американского технолиберализма. Под технолиберализмом авторы понимают идею о том, что «технология продвигает человеческую свободу и пострасовую будущность, провозглашая посттрудовой мир, в котором расовые различия, вместе со всеми человеческими социальными различиями, преодолены» (Atanasoski, Vora 2019: 28). Критикуя эту идею, авторы утверждают, что технолиберальные мечты о роботах, которые возьмут на себя всю грязную работу и освободят наш досуг, на самом деле конструируют свободного субъекта как антитезу не-человеку или, выражаясь языком предрассудков, «недочеловеку», который трудится вместо него (Atanasoski, Vora 2019: 5). Здесь нам снова придется вмешаться, напомнив читателям, что речь идет о типичных трудовых отношениях в США. Замена латиноамериканской няни или индийского таксиста на бесправного андроида – всего лишь подмена означающего в остающемся неизменным символическом порядке. Тем временем, сам либеральный субъект свободен постольку, поскольку кто-то всегда трудится вместо него. Это очень интересная критика западного представления о свободе, которую можно легко и продуктивно переложить обратно на марксистские (или даже психоаналитические?) понятия.

Развивая критику трудовой ситуации в капитализме, авторы полемизируют с Ханной Арендт и ее «Vita Activa» (Арендт 2017), противопоставляя ее вѝдению тоталитаризма критическую теорию расы. Здесь нам хотелось бы более аргументированного доказательства связи несвободы с расой за пределами США (при том, что сами авторы специализируются на таких исключительно разнообразных регионах, как Индия и Балканы). Эту связь легко можно было бы доказать, продемонстрировав, что автоматизация систематически заменяет именно те виды работы, которую обычно выполняют угнетенные: женщины, бедняки, рабочие с небелым цветом кожи, – именно этот тезис теоретически обосновывает первая глава книги. Особенно интересно в данном контексте беглое упоминание «техно-ориентализма» – воображаемая связь между азиатскими расами и образами высокотехнологичного будущего, в котором эти расы доминируют (Atanasoski, Vora 2019: 45).

Однако в реальности вполне может оказаться, что автоматизации подвергаются все виды труда, включая такие высококвалифицированные, как когда-то машиностроение, а сегодня – программирование и бухгалтерский учет. Именно такие специальности можно найти в списке кандидатов на автоматизацию в онлайн-тесте «Достанется ли моя работа роботам?» (Frey, Osborne 2021). По мнению разработчиков теста, если работа требует высоких социальных навыков, то и риск ее автоматизации будет меньше. Атанасоски и Вора также упоминают этот тест, но делают из него прямо противоположные выводы, видя в нем человеческий эссенциализм. Но что, если умение общаться с людьми — это, действительно, качество, присущее только самим людям (и то не всем?) Далее, забота о детях — труд чаще всего женский, в Северной Америке и Юго-Восточной Азии – очень часто поручаемый расово отличным мигранткам. Тем не менее, до сих пор единственный успешный пример его автоматизации – Робоняня в мультсериале «Смешарики». Наш комический пример можно было бы списать на идеосинкразию наших собственных исследовательских интересов – однако авторы книги, действительно, опираются, главным образом, на сюжеты и фигуры американской массовой культуры (что делает книгу достаточно полезным справочником для культуролога, пишущего о новых технологиях). В частности, Атанасоски и Вора приводят в качестве иллюстрации диснеевскую экранизацию сказочного сюжета об ученике чародея, в которой Микки Маус — это либеральный субъект, а ожившая метла – не-человек, освобождающий его от работы. Но если уж и развивать метафору, то до того, как ученик превратил метлу в своего слугу, он сам был слугой чародея. Таким образом, отношения эксплуатации воспроизвели сами себя даже без учета структурного неравенства – которое, безусловно, существует, но объяснять его через метафоры поп-культуры чревато профанацией реальных проблем.

Чтобы обозначить позицию угнетенного (человека или робота), на которого смещаются трудовые обязанности «свободного человека», авторы вводят понятие «суррогата» (по аналогии с суррогатным материнством) (Atanasoski, Vora 2019: 6). Это еще одна очень интересная теоретическая конструкция, ценность которой окажется намного выше в других контекстах. Отрицая картезианский дуализм разума и тела, понятие «суррогата» возвращает нас на уровень телесного, которого лишены абстрактный Другой, искусственный «репликант» или безликий «дубль» Стругацких (хотя их же «кадавр» нам эту телесность возвращает). В то же время оно передает этический дискомфорт от осознания порочного семиотического круга: замена человека машиной кажется настолько естественной потому, что заменяемый человек еще до того мыслился как орудие производства. Именно в такие бездны позволяет заглянуть критическая теория расы, если уметь «правильно ее приготовить».

Действительно ли описанная ситуация характерна именно для западного капитализма? Ведь аналогичную мечту легко разглядеть в небезызвестной истории про Емелю, нечеловеческого агента Щуку и автоматизированную печь. Тем не менее, при всем нашем скептицизме, представление о роботе как о не-человеке действительно вскрывает разницу в общественном устройстве. В постсоветском коллективном сознании у роботов намного больше прав, чем в западном, и доверие к ним также выше, чем в США (Бочаров 2019). Американский робот неукоснительно подчиняется человеку: он просто раб с «ложным сознанием», который превращается в угрозу для человека, как только перестает его слушаться. В советской и постсоветской массовой культуре типичный робот – чаще товарищ и друг, чем жуткий Другой (вспомним робота Вертера, Электроника и Громозеку, а в первую очередь – экокиборга Ниию из «Через тернии – к звездам»). И более того, как показал современный пример робота Алекса компании «Промобот» (Мунгалов 2019), понятия heimlich (нем. скрытое) и unheimlich (нем.жуткое) в постсоветской реальности меняются местами: когда робот спускается слишком далеко в «жуткую долину», ироничная аудитория СМИ и социальных медиа начинает видеть в нем не монстра, а потенциального собутыльника.  Впрочем, и здесь можно найти расовую проблематику: судя по всему, российский робот Пушкин несколько более бледнолиц, чем его прототип (Neurobotics 2021).

Если верить Атанасоски и Вора, то образы успешной советской автоматизации в США времен холодной войны ассоциировались с тоталитаризмом (Atanasoski, Vora 2019: 40). Как будто иронизируя над этим наблюдением, советской «Гостье из будущего» большой любитель фантастики Коля Садовский оптимистически заявляет: «Писатель Чапек придумал слово “робот”, а теперь у нас миллионы роботов!» (Арсенов 1985). Он, вероятно, имеет в виду все человечество, а не только СССР в 1984 году, – впрочем, этот вопрос еще ждет своих исследователей. Как некоторые из нас еще помнят, позднесоветская утопия будущего строилась под бодрый, пусть и иронический, лейтмотив «Вкалывают роботы, счастлив человек!» из телефильма «Приключения Электроника», пусть в жестоком мире не такого уж и воображаемого западного капитализма эта утопия трансформировалась в антиутопию Великого Нехочухи из одноименного мультфильма. Словами Атанасоска и Вора, «…автоматизированные утопии, в которых человеческий рабочий был освобожден от позорной (скучной, унизительной и монотонной) работы, прочно связаны с дистопиями (антиутопиями)4, в которых освобожденный субъект растворяется как заменимый и потенциально больше не нужный» (Atanasoski, Vora 2019: 31). И это верное наблюдение – лишь с той оговоркой, что в реальном мире автоматизация освобождает нас не только от позорной, но и от физически невыполнимой или просто избыточной работы.

Но как насчет так называемого эмоционального труда (Хокшилд 2020), обязательного для работы в сфере обслуживания, – по крайней мере, в капиталистическом обществе? В поисках расово-колониальной логики Атанасоски и Вора деконструируют Human-Robot Interactions(взаимодействие между человеком и роботом) и обнаруживают там социальный дарвинизм, что на самом деле неожиданно, но выглядит вполне в русле описываемых общественных тенденций. Правда, анализ исследовательниц сфокусирован на одном конкретном социальном роботе по имени Kismet, а также на идеях, которые высказывали его создатели. Обсуждение эмоционального труда по Хохшилд в книге отсутствует, а жаль5 – ведь это и есть конечная цель, ради которой «социального» робота учат выражать эмоции, и в реальном мире сам этот труд часто именно женский (вспомним о стюардессах, которых описывает Хохшилд). Вместо этого авторы возвращаются к идее «суррогата» человека: «социальный», с их точки зрения, здесь означает «послушный», а недостаточная человечность обосновывается отсутствием скрытой психической жизни. «Положение робота всегда подчиненное, поскольку его исполнение аффекта должно быть проницаемым, и робот, таким образом, не может предъявить доказательств скрытой внутренней жизни, которая означала бы равенство с человеком» (Atanasoski, Vora 2019: 110). В этом смысле робот сравнивается со стереотипным «представителем примитивной расы», описанным Дарвином: этот «дикарь» не стесняется своих эмоций, плачет и смеется по любому поводу (это также подкрепляется тем, что пишет об аффектах Сара Ахмет (Ahmed 2013)). Такой на первый взгляд радикальный вывод вполне может оказаться предсказанием о том, как будет выражать эмоции следующее поколение «социальных роботов», как на это будут реагировать люди, – и здесь критическая теория расы будет уместной. Однако теория эмоционального труда привела бы нас к прямо противоположным выводам: выполняя работу сиделки или проводника, робот делает человека счастливым именно потому, что управляет своими эмоциями.

Две заключительные и самые захватывающие главы книги посвящаются роботам на войне, таким как боевые дроны и «вьючные мулы» Boston Dynamics. На этих примерах авторы рассматривают проблему агентности, автономии и субъектности, деконструируют эмпатию к роботам и не только к ним и в заключение спрашивают, что же такое «человеческая сущность», если не оппозиция «нелюдям»-рабам. «Человечность», как и технология, по их мнению, – «расовый конструкт, возникший из историй рабства и империализма» (Atanasoski, Vora 2019: 166). Война – экстремальная ситуация, в которой расовые различия быстрее всего приводят к дегуманизации, и в посвященных ей главах нам парадоксальным образом не хватило критической теории расы (одна лишь война во Вьетнаме могла бы послужить красноречивым примером). Тем не менее, обсуждение противоречий робоэтики и некроэтики – это, пожалуй, лучшие и самые поучительные моменты «Суррогатной человечности».

Давайте посмотрим на позитивные примеры – как правило из области современного искусства и активизма, – которые авторы приготовили для нас в качестве альтернативы эксплуатации человека человеком. Это, например, коммуна женщин-биохакеров GynePunk в Каталонии, которые печатают гинекологические инструменты на 3D-принтере и предлагают их беженкам (Atanasoski, Vora 2019: 84). Это акция The Sheep Market художника Аарона Коблина: вдохновившись «Маленьким принцем», художник попросил 10000 фрилансеров-исполнителей «микрозадач» нарисовать ему барашка за два американских цента (Atanasoski, Vora 2019: 103). Книгу стоит прочитать хотя бы ради таких фантастических примеров, как уморительный Робо-Трамп (Atanasoski, Vora 2019: 51). Тем не менее, анекдотичность исследовательского материала – это также и относительная слабость книги, даже там, где авторы теоретически сильны. Но главное разочарование – в ней не так уж много роботов. К примеру, вторая и отчасти третья главы – о том, как социалистические идеи об общественной собственности и общественной пользе мутируют в платформенные экономики. Это актуальная политическая повестка, и она представлена с должной аналитической глубиной, включая содержательную полемику с другими направлениями феминизма (такими как киберфеминизм Донны Харауэй) и даже с пропонентами универсального базового дохода. Вот только как роботы, так и раса появляются в нее лишь косвенным образом, за исключением, разве что, вполне иллюстративного примера Mechanical Turk.

Но почему нам должно быть стыдно за наши мечты о «волшебной» бытовой технике и неутомимом (порой вполне белом и маскулинном, как Мистер Пропер или Мойдодыр) помощнике по дому? Возможно, американский вариант критической теории расы с трудом поддается пересадке на другие континенты, где труд, раса и угнетение складываются в несколько иные, пусть и не менее кровавые структуры (и, кстати, именно эту часть эмпирической реальности Атанасоски и Вора исследуют в других своих работах (Pagulich andShchurko 2020)). Лучшее воплощение расово-критической сингулярности в непреднамеренном постсоветском киберпанке – это даже не «парень чернокожий» Леонида Агутина, чья улыбка магическим образом переносит нас в сияющий и пугающий мир новой этики (Агутин 1994), а всеведущий Тайный Узбек из песни Бориса Гребенщикова (Аквариум 2011): придя на помощь тем, кто «напрочь забыли пин-код», он одновременно свершит правосудие над теми, кто столетиями демонстрировал свою «жадность, свинство и спесь» его собратьям и соседям.

Примечания

1 Киберпанк – поджанр научной фантастики, описывающий воображаемое высокотехнологичное будущее, в котором имеет место радикальное расслоение общества, а возможности человеческих тел дополнены искусственными имплантами и виртуальной реальностью. Первые характерные примеры – роман Уильяма Гибсона «Нейромант» (1984), а также фильм «Трон» (1982), снятый режиссёром Стивеном Лисбергером.

2 Нечеловеческая агентность – понятие современной философии и социальной теории, которое наиболее активно обсуждается в рамках акторно-сетевой теории Джона Ло и Бруно Латура. Согласно этой теории, неодушевленные объекты в обществе способны выполнять роль субъектов (агентов), своим присутствием активно определяющих также и социальную жизнь людей.

3 Квир-идентичность – определение себя как человека вне бинарных оппозиций, таких как мужское и женское, в том, что касается сексуальности и гендерной идентичности.

4 Дистопия (в русскоязычной традиции обычно называется «антиутопия») – вымышленный мир в литературе, кино или видеоиграх, в котором сложился максимально антигуманный общественный строй. Один из первых значительных примеров – роман «Мы» Евгения Замятина (1924), в качестве современного примера можно назвать серию фильмов «Безумный Макс» (1979 – 2015).

5 Разностороннее обсуждение эмоционального труда и социальных роботов можно найти у Добросовестновой и коллег (Dobrosovestnova, Hannibal and Reinboth 2021).

Библиография

Арендт, Х. (2017) Vita Activa, или О деятельной жизни, М.: Ad Marginem.

Хокшилд, А. Р. (2020) Управляемое сердце: Коммерциализация чувств, М.: Издательский дом «Дело».

Atanasoski, N., Vora, K. (2019) Surrogate Humanity: Race, Robots, and the Politics of Technological Futures, Duke University Press.

Dobrosovestnova, A., Hannibal, G., Reinboth, T. (2021) Service robots for affective labor: A sociology of labor perspective, AI & SOCIETY (https://doi.org/10.1007/s00146-021-01208-x) (01.06.2021).

Pagulich, L., Shchurko, T. (2020) (Re)thinking Postsocialism: Interview with Neda Atanasoski and Kalindi Vora, Feminist Critique, Vol. 3, p. 91–111 (https://doi.org/10.52323/376442) (01.06.2021).

Источники

Агутин, Л. (1994) Босоногий мальчик. Sintez Records.

Аквариум (2011) Архангельск. Мистерия звука.

Ануфриев, Г., Цветков, В. (ред.) (1989) Безработный робот. Мн.: Юнацтва.

Арсенов, П. (1985) Гостья из будущего. Киностудия имени М. Горького.

Бочаров, И. (2019) Большинство тех, кто доверяет роботу-судье, не доверяет российским судам. Виктор Вахштайн, Шанинка. Хайтек. 14 марта (https://hightech.fm/2019/03/14/vahshtain) (01.06.2021).

Гаррисон, Г. (1989) Безработный робот. Г. Ануфриев и В. Цветков (ред.), Безработный робот, с.5–23. Мн.: Юнацтва.

Мунгалов, Д. (2019) «Промобот» представил в Сколково антропоморфного робота. Skolkovo Community, 17 апреля (https://old.sk.ru/news/b/articles/archive/2019/04/17/promobot-predstavil-v-skolkovo-antropomorfnogo-robota.aspx) (01.06.2021).

Нейроботикс (2021) Робот “Пушкин” (https://neurobotics.ru/catalog/robotics/robot-pushkin/) (01.06.2021).

An iron hand/fist in a velvet glove (2013) Cambridge Advanced Learner’s Dictionary & Thesaurus. Cambridge University Press (https://dictionary.cambridge.org/dictionary/english/an-iron-hand-fist-in-a-velvet-glove) (01.06.2021).

Frey, C. B., Osborne, M. A. (2021) Will Robots Take My job? [онлайн-тест] (https://willrobotstakemyjob.com) (01.06.2021).

Harrison, H. (2009) The Velvet Glove. Project Gutenberg (https://www.gutenberg.org/files/29471/29471-h/29471-h.htm) (01.06.2021).

References

Arendt, H. (2017) Vita Activa, ili O deiatel’noi zhizni [The Human Condition], Moscow: Ad Marginem.

Atanasoski, N., Vora, K. (2019) Surrogate Humanity: Race, Robots, and the Politics of Technological Futures, Duke University Press.

Dobrosovestnova, A., Hannibal, G., Reinboth, T. (2021) Service robots for affective labor: A sociology of labor perspective, AI & SOCIETY (https://doi.org/10.1007/s00146-021-01208-x) (01.06.2021).

Hochschild, A. R. (2020) Upravliaemoe serdtse: Kommertsializatsiia chuvstv [The Managed Heart: Commercialization of Human Feeling], Moscow: Izdatel’skii dom “Delo”.

Pagulich, L., Shchurko, T. (2020) (Re)thinking Postsocialism: Interview with Neda Atanasoski and Kalindi Vora, Feminist Critique, Vol. 3, p. 91–111 (https://doi.org/10.52323/376442) (01.06.2021).