11 апреля 2021, воскресенье, 06:28
VK.comFacebookTwitterTelegramInstagramYouTubeЯндекс.ДзенОдноклассники

НОВОСТИ

СТАТЬИ

PRO SCIENCE

МЕДЛЕННОЕ ЧТЕНИЕ

ЛЕКЦИИ

АВТОРЫ

Китай внедряет технологии распознавания эмоций. Чем это грозит остальному миру?

Photo by Lianhao Qu on Unsplash
Photo by Lianhao Qu on Unsplash

Китайские власти активно внедряют технологию распознавания эмоций. Темпы, которыми продвигается этот процесс, откровенно пугают правозащитников. Инструменты и критерии наблюдения выглядят антинаучными и расово предвзятыми, поэтому противники подобных «инноваций» требуют их запретить прежде, чем они распространятся за пределы Китая. Рассказываем, как IT-компании помогают властям КНР следить за проявлениями гнева и печали своих сограждан и чем это грозит всему остальному миру. 

Системы распознавания эмоций, по замыслу их создателей, должны выявлять на лицах выражения гнева, печали, счастья и скуки, а также собирать и анализировать другие биометрические данные. Что именно чувствует тот или иной человек, определяют на основе движения лицевых мышц, тона голоса, положения тела и так далее. Эти системы гораздо сложнее, чем уже привычные технологии распознавания лиц, которые просто сравнивают картинки и ищут совпадения. Новые методы тоже включают в себя массовый сбор персональных данных для отслеживания, мониторинга и характеристики людей, используется машинное обучение.

Критики новой технологии утверждают, что она основана на псевдонаучных стереотипах. Все большее число исследователей, юристов и правозащитников опасаются, что она будет иметь серьезные последствия для прав человека, конфиденциальности и свободы выражения мнений во всем мире. По прогнозам, мировая отрасль распознавания эмоций к 2023 году будет стоить около $36 млрд и будет расти почти на 30 % в год, поэтому действовать необходимо немедленно.

В январе 2021 года британская правозащитная группа Article 19 выпустила доклад, посвященный разработкам и использованию технологий распознавания эмоций в Китае. Авторы документа призвали гражданское общество как можно быстрее начать информационную кампанию против продажи и применения этих технологий. Они призвали запретить их до того, как распознавание эмоций получит широкое, в том числе коммерческое, распространение. По мнению правозащитников, разработки в области отслеживания эмоций обладают «огромным потенциалом негативного воздействия на жизнь и средства к существованию людей и принципиально и внутренне несовместимы с международными стандартами в области прав человека». Как минимум они нарушают право на свободу самовыражения, вынуждая людей соответствовать «хорошим» характеристикам, право на протест и на свободу не свидетельствовать против себя, ведь любое выражение лица может быть расценено как «изобличающее» замыслы или подтверждающее виновность.   

Слежка под видом заботы о безопасности

В докладе Article 19 упоминались 27 китайских компаний, занимающихся разработками в области распознавания эмоций. Лишь в одной из них согласились пообщаться с журналистами The Guardian. 

«Обычные жители Китая не очень довольны новыми технологиями, но у них нет выбора. Если полиция скажет, что в общине должны быть камеры, людям просто придется с этим жить. Спрос есть всегда, и мы здесь, чтобы его удовлетворить», —  рассказал Чен Вэй из компании Taigusys.

Офис Taigusys спрятан за несколькими малоэтажными офисными зданиями в Шэньчжэне. Посетителей встречает серия камер, показывающих их изображения на большом экране, который отображает температуру тела, а также оценку возраста и другую статистику. Чен, генеральный менеджер компании, говорит, что система, установленная на входе в офис, — бестселлер компании. Спрос на эту разработку вырос во время пандемии коронавируса.

Чен приветствует распознавание эмоций как способ прогнозировать опасное поведение заключенных, обнаруживать потенциальных преступников, проблемных учеников в школах и пожилых людей, страдающих слабоумием, в домах престарелых. 

Системы Taigusys уже установлены примерно в 300 тюрьмах, спецприемниках и следственных изоляторах по всему Китаю, к ним подключены 60 тыс. камер.

«Насилие и самоубийства очень распространены в центрах заключения. Даже если в наши дни полиция не избивает заключенных, их часто пытаются измотать, не давая уснуть. В результате у некоторых заключенных наступает психическое расстройство и они стремятся покончить с собой. И наша система поможет предотвратить это», — говорит Чен.

По его словам, заключенные становятся более послушными, если знают, что они находятся под наблюдением этой системы — 24 часа в сутки в режиме реального времени.

Помимо тюрем и полицейских контрольно-пропускных пунктов, Taigusys развернула свои системы в школах для наблюдения за учителями, учениками и персоналом, в домах престарелых — для выявления падений и изменений эмоционального состояния пациентов, а также в торговых центрах и на автостоянках. 

Хотя использование технологии распознавания эмоций в школах Китая вызвало некоторую критику, ее использование властями в отношении граждан почти не обсуждалось. Признавая эту проблему, Чен тем не менее подчеркивает потенциал системы в предотвращении происшествий с применением насилия. Он напомнил случай в провинции Гуанси на юге Китая в июне прошлого года, когда охранник ранил ножом 41 человека. По мнению представителя компании, преступление можно было предотвратить с помощью новых технологий.

Его позицию ставит под сомнение сотрудница Article 19, юрист, специализирующийся на социально-правовых последствиях появления новых технологий, Видуши Марда. 

«Знакомый и немного разочаровывающий рассказ, который часто используют, когда новые, "блестящие" технологии вводят под видом заботы о безопасности. Но на самом деле видеонаблюдение мало связано с безопасностью, и я не уверена, что обратная связь в реальном времени устранит насилие», — говорит правозащитница. По ее мнению, большая часть биометрического наблюдения, в том числе и распознавание эмоций, тесно связана с запугиванием и цензурой.

Возможность ошибочного использования

Другая проблема заключается в том, что системы распознавания обычно основаны на действиях позировавших при разработке актеров и их представлениях о том, что они считают счастливым, грустным, злым и другими эмоциональными состояниями. Выражение лица также может широко варьироваться в зависимости от культуры, что приводит к дальнейшим неточностям и этническим предубеждениям. Система Taigusys, которая используется полицией в Китае, а также службами безопасности в Таиланде и некоторых африканских странах, включает такие идентификаторы, как «желтый, белый, черный» и даже «уйгурский».

«Население в этих странах более разнообразно в расовом отношении, чем в Китае, а в Китае это также используется для отличия уйгуров от ханьских китайцев. Если появится уйгур, он будет помечен, но система не будет отмечать ханьского китайца», — говорит Чен.

На вопрос, не беспокоит ли его, что эти функции используются властями не по назначению, Чен отвечает отрицательно, так как программное обеспечение используется полицией, подразумевая, что таким учреждениям следует автоматически доверять. Для Шазеды Ахмед, исследователя из Института AI Now при Нью-Йоркском университете, которая участвовала в создании отчета Article 19, это «ужасные аргументы».

«То, что китайские представления о расе будут встроены в технологии и экспортированы в другие части мира, действительно вызывает беспокойство, особенно потому, что в Китае нет того критического дискурса о расизме и этнической принадлежности, который есть у нас в Соединенных Штатах», — говорит Шазеда Ахмед.

По ее словам, исследования за последние несколько лет показали, что сбор конфиденциальной личной информации особенно опасен, когда находится в руках государства — с учетом широкой сферы их возможного использования государственными структурами. В Китае по сути нет никаких законов, ограничивающих доступ властей к биометрическим данным, что дает таким компаниям, как Taigusys, полную свободу разрабатывать и внедрять эти продукты, в то время как аналогичные предприятия в США, Японии или Европе не могут этого делать, соглашается Чен.

«Таким образом, у нас есть возможность собрать как можно больше информации и найти наилучшие сценарии использования этих данных», — говорит он.

Любопытно, что, продвигая свои разработки, китайские компании ссылаются на положительный зарубежный опыт, отмечают докладчики Article 19. Аналоги таких программ действительно тестировали в США, Венгрии, Латвии и Греции. Однако разработчики из Китая умалчивают, что большая часть их предшественников из западных стран, наоборот, подверглась критике за расизм, ложноположительные результаты и нарушение прав человека.

Еще один аргумент противников распознавания чувств и настроений заключается в том, что технология опирается на по сути антинаучные теории. «Три ошибочных предположения лежат в основе обоснования использования и продажи технологий распознавания эмоций: что выражения лица универсальны, что эмоциональные состояния могут быть извлечены из них и что такие выводы достаточно надежны, чтобы их можно было использовать для принятия решений. Ученые по всему миру десятилетиями дискредитировали все три гипотезы, но это, похоже, не мешает экспериментам и продаже технологий», — констатируют авторы доклада Article 19.

Обсудите в соцсетях

Главные новости

10.04 18:02 РПЦ регламентирует практику «изгнания бесов»
10.04 17:44 Трое российских туристов госпитализированы после ДТП в Турции
10.04 17:04 11 депутатов Бундестага написали письмо Навальному и заявили, что российские власти «целенаправленно пытают» политика в тюрьме
10.04 16:01 Суд запретил жителю Петербурга, обвиняемому в оправдании терроризма, пользоваться интернетом
10.04 15:34 Мурашко объявил о разработке еще одной российской вакцины от коронавируса
10.04 15:03 Почти треть россиян с высшим образованием не работают по специальности
10.04 14:10 Автобус с российскими туристами разбился в ДТП в Турции, десятки пострадавших
10.04 14:00 Умер считавшийся одной из икон рэпа музыкант DMX
10.04 12:47 Гинцбург надеется, что «Спутник V» будет действовать пожизненно
10.04 12:05 Китай оштрафовал Alibaba почти на $3 млрд
10.04 11:33 Путин распорядился начать подготовку празднования 650-летия Куликовской битвы
10.04 11:09 В России выявили 8,7 тыс. новых случаев коронавируса
10.04 10:53 Богословие стало научной дисциплиной в России
10.04 10:08 Главред «Важных историй» Анин стал свидетелем по уголовному делу
10.04 09:20 Коронавирусом в мире заразились уже более 134,6 млн человек
09.04 21:56 В Белом доме предупредили о последствиях для России из-за обострения конфликта в Донбассе
09.04 21:13 Союз журналистов России попросил генпрокурора проверить задержание ростовского журналиста Хорошилова
09.04 20:30 Роскомнадзор составил на «ВКонтакте» протокол из‑за восьми постов с призывами к протестам
09.04 19:46 Вице-премьер Словакии сообщил о «высокопоставленных недругах» вакцины «Спутник V»
09.04 19:12 РБК: российские власти задумались о запрете на полеты в Турцию
09.04 18:31 К главному редактору «Важных историй» Роману Анину пришли с обыском сотрудники ФСБ
09.04 18:19 В Москве суд вынес самый суровый приговор по делам о январских протестах — 3,5 года колонии за распыление газа в росгвардейцев
09.04 17:59 Суд признал недействительным брачный договор Соболь по иску Пригожина
09.04 17:27 Экс-главу Минтруда Дагестана Расула Ибрагимова обвинили в создании преступного сообщества
09.04 16:38 Активисты прокремлевского движения SERB напали на режиссера Виталия Манского
09.04 16:17 EUobserver: четыре человека умерли после вакцинации «Спутником V»
09.04 16:00 КС обязал законодателей изменить статью УК о побоях для защиты жертв домашнего насилия
09.04 15:35 МВД отказалось принимать петицию против плана «Крепость»
09.04 15:32 Путин сменил главу Северной Осетии. Республику возглавил бывший полпред в СФО
09.04 15:00 Генетики раскрыли тайну гроба шведского епископа
09.04 14:43 Песков назвал совпадением отставку сразу нескольких губернаторов
09.04 14:26 Премьер-министра Норвегии оштрафовали за нарушение локдауна при праздновании ее дня рождения
09.04 14:24 Елизавета II объявила о смерти своего мужа герцога Эдинбургского
09.04 13:57 Во Франции вакцинировавшимся первой дозой AstraZeneca разрешат сделать вторую прививку другим препаратом
09.04 13:55 Песков заявил, что в Кремле доверяют декларациям, а не расследованиям о доходах Кадырова
09.04 13:52 РИА: сотрудника «Глаза бога» задерживали по делу о попытке взлома базы данных Сбербанка
09.04 13:36 «Левада»: половине россиян безразлично, кто будет представлять Россию на Евровидении
09.04 13:18 Осужденного по делу «Сети» перевели в ШИЗО. Он переоделся не в раздевалке
09.04 13:16 В Москве по обвинению в коррупции задержали адвоката осужденного экс-полковника МВД Захарченко
09.04 13:00 Три коричневых карлика вращаются с рекордной скоростью
09.04 13:00 Ушедший в отставку губернатор Ульяновской области станет помощником полпреда президента в ПФО
09.04 12:59 Первый канал удалил репортаж о конкурсе красоты в Чечне со «второй женой» Кадырова после расследования «Проекта»
09.04 12:28 Жительница Петербурга первой в России обратилась в ЕСПЧ из-за принудительной госпитализации при подозрении на коронавирус
09.04 12:07 ОМ: сотрудника телеграм-канала «Глаз бога» отпустили. Его дело ведет СК совместно с ФСБ
09.04 11:45 Разработчик вакцины «Спутник V» пообещал завещать свои антитела потомкам
09.04 11:26 В России зарегистрировали 9,1 тыс. новых случаев COVID-19 за сутки
09.04 10:48 «Яндекс.Музыка» вместе с астрофизиками создала «Музыку звезд» на основе данных из космоса
09.04 10:08 В Великобритании убили одного из богатейших людей страны Ричарда Саттона. Преступление произошло в его особняке
09.04 10:00 Обнаружен неизвестный ранее портрет работы Гейнсборо и установлена личность изображенного на нем человека
09.04 09:47 Великобритания введет «систему светофора» по ограничениям для приезжающих страну
«АвтоВАЗ» «ВКонтакте» «Газпром» «Зенит» «Мемориал» «Мистраль» «Оборонсервис» «Роснефть» «Спартак» «Яблоко» Абхазия Австралия Австрия Азербайджан Антимайдан Аргентина Арктика Армения Афганистан Аэрофлот Башкирия Белоруссия Бельгия Болгария Бразилия ВВП ВКС ВМФ ВПК ВТБ ВЦИОМ Ватикан Великобритания Венгрия Венесуэла Владивосток Внуково Волгоград ГИБДД ГЛОНАСС Генпрокуратура Германия Голливуд Госдеп Госдума Греция Гринпис Грузия ДТП Дагестан Дания Домодедово Донецк ЕГЭ ЕСПЧ Евровидение Еврокомиссия Евромайдан Евросоюз Египет Екатеринбург ЖКХ Израиль Ингушетия Индия Индонезия Интерпол Ирак Иран Испания Италия Йемен КНДР КПРФ Казань Казахстан Калининград Камчатка Канада Каталония Кемерово Киев Кипр Киргизия Китай Коми Конституция Красноярск Кремль Крым Куба Курилы ЛГБТ ЛДПР Латвия Ливия Литва Лондон Луганск МВД МВФ МГУ МКС МОК МЧС Малайзия Мексика Минздрав Минкульт Минобороны Минобрнауки Минпромторг Минсельхоз Минск Минтранспорта Минтруд Минфин Минцифры Минэкономразвития Минэнерго Минюст Молдавия Мосгордума Мосгорсуд Москва НАСА Нигерия Нидерланды Новосибирск Норвегия ОБСЕ ООН ОПЕК Одесса Омск ПДД Пакистан Паралимпиада Париж Пентагон Польша Приморье РАН РЖД РПЦ РФС Росавиация Росгвардия Роскомнадзор Роскосмос Роспотребнадзор Россельхознадзор Россия Росстат Ростех Ростуризм СМИ СССР США Сахалин Сбербанк Севастополь Сербия Сирия Сколково Славянск Сочи Таджикистан Таиланд Татарстан Трансаэро Турция УЕФА Узбекистан Украина ФАС ФБР ФИФА ФСБ ФСИН ФСКН Филиппины Финляндия Франция Хакасия Харьков ЦИК ЦРУ ЦСКА Центробанк Чехия Чечня Швейцария Швеция Шереметьево Эбола Эстония ЮКОС Якутия Яндекс Япония авиакатастрофа автопром алкоголь амнистия арест армия археология астрономия аукционы бактерии банкротство беженцы безработица бензин беспилотник беспорядки биатлон бизнес благотворительность блогосфера бокс болельщики вандализм взрыв взятка вирусы вузы выборы гаджеты генетика гомосексуализм госбюджет госзакупки госизмена деньги дети доллар допинг драка евро журналисты законотворчество здоровье землетрясение изнасилование импорт инвестиции инновации интернет инфляция ипотека искусство ислам исследования история казнь кино кораблекрушение коронавирус коррупция космос кража кредиты культура лингвистика литература математика медиа медицина метро мигранты монархия мошенничество музыка наводнение налоги нанотехнологии наркотики наука недвижимость нейробиология некролог нефть образование обрушение общество ограбление оппозиция опросы оружие офшор палеонтология педофилия пенсия пиратство планетология погранвойска пожар полиция похищение правительство право православие преступность продовольствие происшествия психология пытки ракета рейтинги реклама религия ретейл робототехника рубль санкции связь сепаратизм следствие смартфоны смертность социология спецслужбы спутники статистика страхование стрельба строительство суды суицид тарифы театр телевидение теракт терроризм технологии транспорт туризм убийство фармакология физика фоторепортаж футбол хакеры химия хоккей хулиганство цензура школа шпионаж экология экономика экспорт экстремизм этология «Единая Россия» «Исламское государство» «Нафтогаз Украины» «Правый сектор» «Северный поток» «Справедливая Россия» «болотное дело» Александр Бастрыкин Александр Лукашенко Александр Новак Александр Турчинов Алексей Кудрин Алексей Навальный Алексей Улюкаев Алтайский край Амурская область Анатолий Сердюков Ангела Меркель Антон Силуанов Аркадий Дворкович Арсений Яценюк Астраханская область Барак Обама Басманный суд Башар Асад Белый дом Борис Немцов Бутовский полигон Валентина Матвиенко Верховная Рада Верховный суд Виктор Янукович Виталий Милонов Виталий Мутко Владимир Жириновский Владимир Зеленский Владимир Маркин Владимир Мединский Владимир Путин Вячеслав Володин Дальний Восток День Победы Дмитрий Медведев Дмитрий Песков Дмитрий Рогозин Дональд Трамп Евгения Васильева Забайкальский край Интервью ученых Ирина Яровая Иркутская область История человечества Калужская область Кирилл Серебренников Кировская область Конституционный суд Космодром Байконур Краснодарский край Красноярский край Ксения Собчак Ленинградская область МИД России Мария Захарова Михаил Прохоров Михаил Саакашвили Михаил Ходорковский Московская область Мурманская область Надежда Савченко Наталья Поклонская Нижний Новгород Николас Мадуро Нобелевская премия Новосибирская область Новый год Олег Дерипаска Олимпийские игры Ольга Голодец Павел Дуров Палестинская автономия Папа Римский Первый канал Пермский край Петр Порошенко Почта России Приморский край Рамзан Кадыров Реджеп Эрдоган Республика Карелия Ростовская область Самарская область Саратовская область Саудовская Аравия Свердловская область Сергей Лавров Сергей Нарышкин Сергей Полонский Сергей Собянин Сергей Шойгу Следственный комитет Совбез ООН Совет Федерации Ставропольский край Счетная палата Тереза Мэй Тюменская область Франсуа Олланд Хабаровский край Хиллари Клинтон Человек дня Челябинская область Черное море Эдвард Сноуден Элла Памфилова Эльвира Набиуллина Эммануэль Макрон Южная Корея Юлия Тимошенко Юрий Чайка авторское право администрация президента акции протеста атомная энергия баллистические ракеты банковский сектор биология большой теннис визовый режим военная авиация выборы губернаторов газовая промышленность гражданская авиация гуманитарная помощь декларации чиновников домашние животные дороги России информационные технологии климат Земли компьютерная безопасность космодром Восточный крушение вертолета легкая атлетика лесные пожары междисциплинарные исследования мобильные приложения морской транспорт некоммерческие организации общественный транспорт патриарх Кирилл пенсионная реформа пищевая промышленность права человека правозащитное движение преступления полицейских публичные лекции российское гражданство русские националисты русский язык сельское хозяйство сотовая связь социальные сети стихийные бедствия телефонный терроризм уголовный кодекс фигурное катание финансовый рынок фондовая биржа химическое оружие хроники обнуления эволюция экономический кризис ядерное оружие Великая Отечественная война Всемирная организация здравоохранения Вторая мировая война Ирак после войны Ким Чен Ын Революция в Киргизии Российская академия наук Стихотворения на случай Федеральная миграционная служба Федеральная таможенная служба борьба с курением выборы мэра Москвы здравоохранение в России связь и телекоммуникации тюрьмы и колонии Совет по правам человека аварии на железной дороге естественные и точные науки закон об «иностранных агентах» компьютеры и программное обеспечение видеозаписи публичных лекций «Полит.ру» Новые технологии, инновации Сочи 2014 рейтинг Forbes Аль-Каида Кабардино-Балкария Левада-Центр Нью-Йорк Санкт-Петербург отставки-назначения шоу-бизнес Ростов-на-Дону ЧМ-2018 Книга. Знание ВИЧ/СПИД Путин20летназад новость20летназад Apple Bitcoin Boeing Facebook G20 Google iPhone IT Microsoft NATO PRO SCIENCE видео ProScience Театр Pussy Riot Telegram Twitter Wikileaks YouTube

Редакция

Электронная почта: polit@polit.ru
Телефон: +7 929 588 33 89
Яндекс.Метрика Top.Mail.Ru
Свидетельство о регистрации средства массовой информации
Эл. № 77-8425 от 1 декабря 2003 года. Выдано министерством
Российской Федерации по делам печати, телерадиовещания и
средств массовой информации. Выходит с 21 февраля 1998 года.
При любом использовании материалов веб-сайта ссылка на Полит.ру обязательна.
При перепечатке в Интернете обязательна гиперссылка polit.ru.
Все права защищены и охраняются законом.
© Полит.ру, 1998–2021.