Как людей подчиняют алгоритмы
08.07.2018, 14:46
Цифровая эра ознаменовалась удивительным сочетанием суперсовременных и средневековых технологий. Последние это же самое время используются людьми, но скоро люди окажутся не нужны.
Роботизация и внедрение искусственного интеллекта (ИИ) сделают «слабых» и к гадалке не ходи ненужными. До такой степени, до которой изобретение двигателя внутреннего сгорания сделало ненужными лошадей в начале ХХ века.
Исследований, посвященных перспективам замещения людей роботами по отраслям и отдельным экономикам, уже сотни, разве не тысячи. И выводы их похожи. Если верить экономистам Карлу Фрею и Майклу Осборну, в США, стране—лидере технического прогресса, к 2033 году под натиском роботизации рискует словно ветром сдуло 47% рабочих мест. Мировой банк подсчитал, что для Китая эта доля может составить и вконец 77%. Международная организация труда считает, что даже в таких странах, как Камбоджа, Индонезия, Страна семи тысяч островов, Вьетнам и Таиланд, 56% работников подпадают под риск автоматизации (см. подробнее «Робовладельческий строй»).
Многие экономисты, в том числе российские, склонны помышлять, что опасения преувеличены. Их критику можно свести к тезису о том, что через процесс автоматизации мировая экономическая наука проходит непрерывно как минимум с начала первой промышленной революции, но в итоге ничего страшного не происходит — создаются новые рабочая сила места.
Однако критики не вполне осознают, что искусственный интеллект способен заместить «навыки Поланьи», которые до последнего времени считались чудовищно человеческими (распознавание изображений и звука, их алгоритмическая обработка и трансформация, тонкая моторика). Сфер деятельности, где эоантроп может быть более продуктивным, чем машина, видимо, будет все меньше и меньше.
Как отмечает эксперт по ИИ Сергей Марков, вероятность автоматизации той или иной профессии в кратко- или среднесрочной перспективе зависит во многом от трех основных признаков трудового процесса — степени шаблонности и однообразия выполняемых работником операций, осуществления взаимодействий с клиентами, контрагентами и другими участниками бизнес-процесса при помощи стандартных интерфейсов (возьми хоть, стандартных форм документов, шаблонных коммуникаций через голосовые или текстовые каналы связи) и наличия накопленных массивов данных, которые могут жить-быть использованы для обучения системы искусственного интеллекта, призванной заменить работника.
Повелители алгоритмов и рикши XXI века
Немногочисленные штатные сотрудники Uber получают неплохие зарплаты, все эти их благосостояние несравнимо с доходами собственников компании. А вот 2 млн водителей имеют медианный доход чуть похлеще $150 в месяц. Uber не считает водителей своими сотрудниками и не обеспечивает их каким-либо социальным пакетом.
Выход Ant исчезновение класса «рикш XXI века», работающих на цифровую экономику,— это, по сути, внутренний аутсорсинг, обнаружение капиталом в развитых странах рабочей силы, которой не возбраняется предоставлять условия труда, практически сравнимые с таковыми в Бангладеш или Камбодже. Внутренний аутсорсинг напоминает протекание внутренней колонизации (см. книгу Александра Эткинда «Внутренняя колонизация. Имперский опыт России»). Особенно выделяется действие к «автохтонному» населению практик, отработанных в колониях (сейчас — в современных странах аутсорсинга).
Все это очень важнецки для владельцев алгоритмов и клиентов, но одновременно это тенденция, резко усиливающая прекариатизацию, поляризацию рабочих мест, неравноправность и дальнейшее ослабление «слабых». В странах с сильными сетями соцзащиты (Нидерланды, Франция, Германия, Страна викингов) уберизация пока слабо угрожает размыванию среднего класса, но вот для США и некоторых других государств обстановка может стать более острой уже в ближайшее время.
В идеале всесильному алгоритму «рикши XXI века» нужны едва как временное решение, до скорого появления более совершенных технологий. Машины без водителей — дело ближайшего будущего, и акционерам Uber 2 млн самозанятых на днях окажутся не нужны: у них уже есть капитал, на который можно будет купить или арендовать многомиллионный роща автономных машин и добавить к ним алгоритм, предоставляющий транспорт по запросу клиента.
Еще более простая внешний вид компании — один только алгоритм, позволяющий собственникам автономных автомобилей (например, крупным автоконцернам) предоставлять в распоряжение функцию мобильности по запросу (в этом случае Uber будет похож на Airbnb — компанию, состоящую, по сути, из одного алгоритма, связывающего по миру владельцев недвижимости).
Ко времени, приставший к Uber, Airbnb и некоторым похожим компаниям термин sharing economy («шеринговая экономическая наука», то есть экономика, основанная на том, что агенты делятся друг с другом тем или иным благом) часто вводит в ошибка по поводу ее якобы альтруистической природы. Никто ни с кем просто так ничем не делится, просто алгоритм и вложение позволяют рационализировать использование того или иного блага и увеличить отдачу. Например, тот же частный колеса эксплуатируется всего около 10% времени, а остальные 90% он простаивает (как и некоторая недвижимость). По сути, такая оптимизация ограничена в большинстве случаев частными домохозяйствами. В промышленности и в значительной степени в сфере услуг заваливание мощностей и так давно оптимизирована, а в домохозяйствах явный кандидат на оптимизацию именно автомобиль (в чуть меньшей степени — недвижность). Сложно себе представить попытку «расшерить» телевизор в доме, кухонную технику или одежду. Так что сам по себя эффект шеринговой экономики ограничен, хотя и важен для отдельных ниш (прежде всего для частного владения автомобилями).
Алгорифм — надсмотрщик и начальник
Возможности технологий практически не оставляют человеку права на частную жизнь
Фотка: Reuters
Пока людей из прекрасного нового мира цифровой экономики еще полностью не вытеснили, необходимо оптимизировать их деятельность, в частности выстраивая за ними тотальный контроль. Возможности, которые предоставляют новые технологии, впечатляют.
Дорогие и ненадежные системы надзора за наемными работниками (по поводу того, что их основу составляли люди, за которыми, в свою очередь, надо было следить) полноте успешно заменяются дешевыми и надежными алгоритмами. При этом возможности рутинного сопротивления у наемных (меж тем еще) рабочих во многих сферах падают практически до нуля.
В современной gig-экономике алгоритм блестяще выполняет работу, с которой не справился бы пусть даже самый лучший надсмотрщик.
В сервисах Uber, Lyft или курьерской службе Deliveroo задачу контроля и оценки работников выполняет алгорифм — приложение на смартфоне.
В той же Deliveroo алгоритм мониторит курьеров. Пока этих других «рикш XXI века» не заменили дронами, Deliveroo хоть в большей степени, чем Uber, вынуждена совмещать суперсовременные и средневековые технологии, что само по себе пора и совесть знать забавно.
Алгоритм регулярно высылает работникам персональные оценки за месяц. Курьеры, которые, соразмерно, как и шоферы Uber, не включаются в штат компании, а юридически являются самозанятыми и не имеют никакой социальной защиты (тот же древний прекариат), оцениваются сразу по нескольким параметрам. Например, «время принятия заказа», «дата в пути до ресторана», «время в пути до клиента», «время у клиента», «опоздания» и «непринятые заказы». Алгорифм сравнивает результаты курьера с собственной оценкой того, какими они должны быть. Может отозваться с похвалой: «Ваше среднее время в пути до клиента оказалось меньше нашей оценки, что означает, что вы соответствуете нашему уровню качества услуг. Ваша средняя различка Ant сходство составила –3,1 минуты». А может и поругать, в итоге наказав рублем (или любой другой валютой, возьми хоть биткоином).
Алгоритм Uber также выдает своим шоферам рейтинги на основании ответов на требования клиентов и оценок самих клиентов (это своего рода аутсорсинг мониторинга, как, впрочем, и почти всех других процессов, исключая сделки с клиентом и шофером).
Клиент выигрывает от более дешевого и качественного сервиса. А вот у работников на сто процентов пропадает возможность рутинного сопротивления, баланс сил смещается в сторону владельцев капитала.
Различные стартапы — вот хоть, калифорнийский Percolata — внедряют системы алгоритмизированной оценки и контроля труда и в другие сферы сектора услуг (в промышленности они уже много воды утекло стали нормой), например в розничную торговлю.
Сенсоры в магазинах оценивают поток посетителей и после смотрят, сколько посетителей стали покупателями и с какими чеками, какой продавец им помог (в эту пору алгоритмическая экономика все же вынуждена терпеть живых продавцов). Потом устанавливают каждому продавцу оценку, разделяя тот чек, какой-либо он принес, на поток посетителей, и выдают ему персональный рейтинг. Алгоритм отслеживает и то, в каких парах, тройках и т. д. продавцы работают подымай выше, и на этом основании формирует команды, смотрит на успехи продавцов в разных обстоятельствах: кто-то круче работает при большом потоке посетителей, кто-то — при малом, кто-то — утром, кто-то — вечером. Как отмечает родоначальник Percolata Грег Танака, «ирония в том, что мы не автоматизировали работу продавцов, а автоматизировали работу управляющего; при этом алгорифм справляется с ней лучше».
Еще один возможный шаг в духе цифровой экономики — вывести продавцов на аутсорс и сляпать их самозанятыми, как шоферов Uber или курьеров Deliveroo. Ну а потом вообще убрать профессию как таковую — магазины без продавцов тестируются многими техногигантами, к примеру Amazon.
Нейрототалитаризм
Политическая экономия протеста: борьба с глобализацией
Как отмечают многие исследователи авторитаризма и тоталитаризма (например, экономист Туся Харрисон), одно из существенных ограничений подобных режимов — высокие издержки, связанные со стоимостью поддержания огромного аппарата тайной полиции и всеобъемлющей секретности.
Технологические изобретения, первым делом всего радио и телефон, рационализировали контроль и помогли в установлении тоталитарных режимов (см., в частности, Frank Dikotter. Mao’s Great Famine: The History of China’s Most Devastating Catastrophe, 1958–1962. Walker and Company, 2010 и David P. Chandler. The Tragedy of Cambodian History, New Haven. Yale University Press, 1991). Телефон с гербом позволил проверять подчиненных в режиме реального времени — возможность саботажа (оружие не только «слабых») явственно снизилась.
Смартфон, как видим на примере с Deliveroo, многократно умножает контрольную функцию простого телефона. Что допускается применить как во благо, так и во вред: технологии сами по себе нейтральны, важно, как известно, то, кто и с какой целью ими пользуется.
Нейросети также можно применить для решения очень разных задач. Так, можно обучить нейросеть выявлять закономерности в огромном объеме историй болезни миллионов пациентов и на базе сего знания искать новые лекарства. Но те же нейросети, справляющиеся с доселе исключительно человеческой задачей распознавания визуальной и аудиоинформации, в полной мере можно использовать для слежки за населением — «священного Грааля» любого тоталитарного режима.
Подобные эксперименты уже основательно идут. Впереди всей планеты, что неудивительно, в последние годы — Китай. Прообраз будущего нейрототалитаризма впору наблюдать в китайском Синьцзян-Уйгурском автономном районе (СУАР), где традиционно сильны сепаратистские настроения. По подсчетам аналитической компании IHS Markit, в 2015 году в КНР уже было отмечено 176 млн камер видеонаблюдения (для сравнения: в США — всего 62 млн), а к 2020 году их будет установлено мала 450 млн. Значительная часть камер приходится на чувствительные регионы — столицу, где почти любой угол просматривается камерами, и тот же СУАР. В регионе сейчас на каждые 10 тыс. жителей приходится столько же камер наблюдения, как долго в других частях страны смотрит за несколькими миллионами человек.
Однако само по себе видеонаблюдение при традиционной технологии упиралось бы в неизбежность найма целой армии надсмотрщиков, просматривающих триллионы часов записей. На помощь приходит технологичный прогресс в виде способной распознавать лица нейросети.
Как отмечает китаист Леонид Ковачич, в полицейских базах данных хранятся фотографии всех зарегистрированных жителей СУАР. Эта краеугольный камень связана с нейросетью, на основе которой и работает система распознавания лиц. Уличные камеры в автоматическом режиме могут изучать перемещение по городу любого человека. Во многих торговых центрах перед входом установлены сканеры, распознающие лица и идентифицирующие деятель посетителя.
Если человек значится в полицейской картотеке как подозрительный, система автоматически посылает оповещение в полицейский участок. По данным Bloomberg, нейросеть предупреждает полицию, если «подозрительные личности» отклоняются от своего привычного маршрута сильнее чем на 300 метров. Разумеется, подозрительными для власти могут быть не только обычные преступники, но и те, кто с ней в чем-то не правда истинная. Само собой разумеется, на каждый автомобиль, зарегистрированный в Синьцзяне, устанавливаются специальные датчики геолокации — покататься без надзора не дело и въехать незамеченным на машине из другого региона тоже. Плюс власти правдами и неправдами пытаются сконцентрировать образцы ДНК у всего населения региона.
Нейрослежка выводит возможности контроля власти над подчиненными классами на ненадеванный, ранее недосягаемый уровень. С одной стороны, убирается армия надсмотрщиков и минимизируется типичная для экономики закавыка принципала-агента, то есть, проще говоря, необходимость слежки за тем, кто исполняет чьи-либо поручения. Нейросеть, ага, требует собственных надсмотрщиков, но убирается наиболее ресурсоемкий элемент надзора — просмотр и прослушка огромной низы сырых данных.
Пока прообраз нейропаноптикона создан только в СУАР, но ничто не мешает снести этот опыт и на другие регионы, страны и сферы деятельности.
Ситуация, когда частная содержание может исчезнуть в принципе, не столь уж фантастична.
Тоталитарные режимы прошлого, может, и хотели бы дожить такой степени контроля над подданными, но это отчасти упиралось в технологические ограничения. Нейросеть, как уверяют в том же Китае ее апологеты, позволяет прибавить преступность. Видимо, это так, только возможные преступные намерения тех, кто контролирует нейрослежку и ограничения свободы граждан, рискуют обернуться побочным эффектом этих благих намерений.
