С какими материалами работают модераторы контента в TikTok?

ForbesБизнес

Зачем TikTok база изображений сексуализированного насилия над несовершеннолетними

Бывшие подрядчики TikTok заявляют, что справочным материалом для сторонних модераторов контента соцсети служит множество изображений с детьми, подвергшимися сексуализированному насилию, ― и все это находится в почти неограниченном корпоративном доступе

Александра С. Левин. Перевод Forbes USA. Перевод Антона Бундина

Фото Scott Eells / Bloomberg via Getty Images

Бывший сотрудник TikTok Нассер (фамилии этого и некоторых других собеседников не называются из соображений конфиденциальности) знал, что в процессе обучения на должность модератора контента TikTok ему придется иметь дело с неприятными материалами. Но когда ему и другим новичкам на обучении показали изображения сексуального характера без цензуры с участием детей, для него это стало настоящим шоком.

Нассер работал в сторонней компании Teleperformance, которая модерирует контент социальной сети. Нового сотрудника взяли на специальный проект, в рамках которого планировалось научить искусственный интеллект (ИИ) TikTok выявлять на платформе худшее из худшего. Спустя всего несколько дней после начала работы Нассеру и его коллегам показали натуралистические изображения и видео, где дети подвергаются действиям сексуального характера, ― все ролики и фотографии, удаленные из TikTok.

«У меня самого есть дочь, и мне кажется, что неправильно, когда это смотрит толпа незнакомых людей, ― рассказал Forbes Нассер (из Teleperformance он ушел в 2020 году). ― Думаю, что такое для обучения использовать нельзя».

Уитни Тернер, работавшая в Teleperformance по этой же программе TikTok в Эль-Пасо на протяжении чуть больше года и уволившаяся в 2021-м, тоже вспоминает, как на обучении ей показывали визуальные материалы с сексуализированным насилием над детьми. Сотруднице дали доступ к общей таблице. Сама Уитни и ее бывшие коллеги утверждают, что в файле полно материалов, нарушающих правила сообщества TikTok, в том числе сотни изображений с детьми, которых заставляют раздеваться или насилуют. Бывшие модераторы заявляют, что документ под названием DRR (англ. Daily Required Reading, «обязательная ежедневная вычитка») находился в широком доступе для сотрудников Teleperformance и TikTok еще этим летом. Несмотря на то что некоторым модераторам, задействованным по другим направлениям, просмотр этого документа был запрещен, многие источники рассказали Forbes о том, что свободный доступ к файлу имели сотни работников из обеих компаний. DRR и другие справочные материалы хранились в программе Lark, корпоративной системе китайского гиганта ByteDance, владельца социальной сети.

Уитни была настолько ошеломлена небрежным обращением с материалами, что сообщила об этом в ФБР и впоследствии, в июне, встречалась по этому поводу с агентом. В ФБР на вопросы о том, предвидится ли какое-то расследование, не ответили.

«Я модерировала контент и думала: это же чей-то сын, чья-то дочь. И их родители даже не знают, что у нас сохранены эти фотографии, эти видео, этот ужас, настоящее преступление, ― поделилась Уитни. ― Будь родители в курсе, я уверена, они бы сожгли TikTok дотла».

Президент глобального подразделения по доверию и безопасности Teleperformance Акаш Пугалия заявил Forbes, что ролики откровенного содержания с участием детей компания в целях обучения не применяет. Кроме того, он добавил, что фирма не хранит подобный контент в своих «инструментах калибровки», хотя, что это за инструменты и для чего используются, он не пояснил. Отвечать на другие вопросы из обширного списка о том, сколько людей имеют через DRR доступ к материалам с насилием в отношении детей и как Teleperformance охраняет визуальный данные, управленец тоже отказался.

TikTok ― далеко не единственная платформа, которая борется с материалами сексуального насилия над несовершеннолетними. Крупнейшие социальные сети мира давно прибегают к машинному обучению и помощи сторонних проверяющих, чтобы находить и удалять подобные записи до того, как они разлетятся по интернету. Многие фирмы сотрудничают с Национальным центром по поиску пропавших и подвергшихся насилию детей (National Center for Missing & Exploited Children), чтобы сообщать о подобных постах в своем приложении органам правопорядка.

Однако уникально то, как TikTok и его сторонние консультанты обращаются с таким контентом. Эксперты называют сложившийся подход в лучшем случае небрежным и халатным, а в худшем ― опасным и травмирующим снова и снова. Специалисты подчеркивают, что изображения сексуального характера с детьми при обучении модерации контента ― не важно, с цензурой или без, ― лишь унижает жертв каждый раз заново. Кроме того, хранение записей в документе с общим доступом безответственно и излишне.

Пресс-секретарь TikTok Джейми Фавацца заявила, что «материалы для обучения в компании имеют строгий контроль доступа и не включают в себя наглядные примеры материалов сексуального насилия над детьми», но признала, что бизнес работает со сторонними фирмами, у которых внутренние процессы могут отличаться. Отвечать на вопросы о том, сколько сотрудников имеют доступ к файлу DRR и где документ хранится, в TikTok отказались. Родительская компания ByteDance, разработчик платформы Lark, многочисленные запросы прокомментировать эту информацию оставила без внимания.

«Свободный и неограниченный оборот здесь не пройдет»

Изображения насилия над детьми и их эксплуатации противозаконны, и существуют строгие правила по обращению с такими данными в случае обнаружения. Материал подлежит незамедлительной блокировке, и о нем необходимо сообщать в систему CyberTipline Национального центра по поиску пропавших и подвергшихся насилию детей. Там персонал анализирует файлы и ищет их первоисточник, чтобы уведомить соответствующие правоохранительные органы. Как только компания сообщает о материале в профильный центр, ей официально разрешается хранить контент в течение 90 дней для помощи следствию. Но федеральный закон США четко требует от предприятий «минимизировать число сотрудников, которым дается доступ» к незаконному контенту, «хранить материалы в безопасном месте» и «обеспечивать полное уничтожение любого визуального изображения по запросу от органов правопорядка».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

VisionLabs внедрила систему распознавания дипфейков в банках четырех стран VisionLabs внедрила систему распознавания дипфейков в банках четырех стран

VisionLabs внедрил систему обнаружения дипфейков в банки России

Forbes
Что вы знаете о Лермонтове? 7 неожиданных фактов из жизни русского поэта Что вы знаете о Лермонтове? 7 неожиданных фактов из жизни русского поэта

7 неочевидных фактов о самом романтичном поэте своего времени

ТехИнсайдер
Нулевая ответственность: что делать, если вашим коллегам и подчиненным «все равно» Нулевая ответственность: что делать, если вашим коллегам и подчиненным «все равно»

Какие причины кроются за безответственностью на рабочем месте?

Forbes
«Пока не сыграл в ящик»: как составить список самых важных дел «Пока не сыграл в ящик»: как составить список самых важных дел

Как составить bucket list и при этом избежать ошибок?

Psychologies
Как быстро возбудить девушку: 12 способов (гид, который стоит держать под рукой) Как быстро возбудить девушку: 12 способов (гид, который стоит держать под рукой)

Не знаете, как быстро возбудить девушку до предела? Вы по адресу!

Playboy
Ученые измерили скорость воды в акведуках древнего Рима. Им помогли ископаемые бактерии Ученые измерили скорость воды в акведуках древнего Рима. Им помогли ископаемые бактерии

Как расходовалась вода в акведуке и какова была степень его загрузки?

ТехИнсайдер
Шансы выжить невелики: что будет, если человека ударит молнией Шансы выжить невелики: что будет, если человека ударит молнией

Электрические разряды редко проходят для людей без последствий

Вокруг света
Как удалить дубликаты контактов на Android Как удалить дубликаты контактов на Android

Как с помощью программ удалить повторы в телефонной книге на Android

ТехИнсайдер
Правда ли, что наше тело не переваривает кукурузу? И есть ли от нее польза? Правда ли, что наше тело не переваривает кукурузу? И есть ли от нее польза?

Ядра кукурузы проходят через наш пищеварительный тракт и выходят невредимыми

ТехИнсайдер
Сойти с пути: как топ-менеджеру успешно перейти из кризисной отрасли в растущую Сойти с пути: как топ-менеджеру успешно перейти из кризисной отрасли в растущую

Кому доступен кросс-индустриальный переход и как его упростить

Forbes
Сахелантропу вновь разрешили ходить на двух ногах Сахелантропу вновь разрешили ходить на двух ногах

Ученые исследовали находки, сделанные больше 20 лет назад в Чаде

N+1
У бактерий нашли дополнительные белки для борьбы с вирусами и бактериофагами У бактерий нашли дополнительные белки для борьбы с вирусами и бактериофагами

Ученые из MIT нашли у прокариот новый механизм борьбы с вирусными инфекциями

N+1
Гигантские изоподы: мастера выживания, о которых почти ничего не известно Гигантские изоподы: мастера выживания, о которых почти ничего не известно

Загадочное существо, способное составить тараканам конкуренцию в выживании

ТехИнсайдер
Как за 10 лет архитектурный облик Москвы вышел на международный уровень Как за 10 лет архитектурный облик Москвы вышел на международный уровень

Какие проекты определяют облик столицы на столетия вперед

СНОБ
«Люди не хотят, чтобы ребенок попал в переплет»: как воспитывают мальчиков и девочек «Люди не хотят, чтобы ребенок попал в переплет»: как воспитывают мальчиков и девочек

Какие клише по воспитанию детей существуют в России?

Forbes
В поисках Рюрика В поисках Рюрика

А был ли Рюрик?

Дилетант
10 фактов о водке, которые ты скорее всего не знал 10 фактов о водке, которые ты скорее всего не знал

Думаешь, знаешь о водке все? Спорим на бутылку коньяка, что нет?

Maxim
Как мы дошли до спотифая? Краткая история звукозаписи Как мы дошли до спотифая? Краткая история звукозаписи

Звучащая речь из 19 века преодолела свой путь в 21 век силами не одного ученого

ТехИнсайдер
«Да я из-за тебя…»: 20 фраз, которые выдадут в мужчине токсичного отца «Да я из-за тебя…»: 20 фраз, которые выдадут в мужчине токсичного отца

Какие фразы свидетельствуют о том, что мужчина — токсичный родитель?

Psychologies
Повлиять на качество Повлиять на качество

Если в ваших интимных зонах что-то пошло не так, на помощь придут специалисты

Psychologies
Сверхновая 1181 года вписалась в модель слияния двух белых карликов Сверхновая 1181 года вписалась в модель слияния двух белых карликов

Возникновение сверхновой произошло из-за слияния двух белых карликов

N+1
Как покупать винил: для чайников и продвинутых Как покупать винил: для чайников и продвинутых

Где и как приобретать пластинки в России, как не купить ерунду?

Maxim
Синдром одомашнивания: отрывок из книги «Парадокс добродетели» Ричарда Рэнгема Синдром одомашнивания: отрывок из книги «Парадокс добродетели» Ричарда Рэнгема

Почему людям свойственны одновременно доброта и жестокость?

СНОБ
На изящном: рабы любви, или Какой древнегреческий миф лежит в основе картины Франсуа Буше «Геркулес и Омфала» На изящном: рабы любви, или Какой древнегреческий миф лежит в основе картины Франсуа Буше «Геркулес и Омфала»

Что стоит за страстной сценой между Геркулесом и Омфалой

Правила жизни
Треть цинка попала на Землю вместе с метеоритами Треть цинка попала на Землю вместе с метеоритами

Метеориты могут быть источником цинка, ртути, селена на Земле

N+1
3 современные российские книги о детско-родительской травме 3 современные российские книги о детско-родительской травме

Бибилиотерапия, которая поможет осмыслить детско-родительские травмы

Psychologies
Как правильно хранить еду в холодильнике? Как правильно хранить еду в холодильнике?

Что, думаешь, положил продукты в холодильник и пошел? А вот и нет!

Maxim
Конечность: выдающиеся руки выдающихся людей. Фотоистория Конечность: выдающиеся руки выдающихся людей. Фотоистория

Руки, которые сыграли 5 тысяч концертов и выкопали 150 тонн картофеля

Правила жизни
Игорь Мухин — о кинематографичности городов, деньгах и документальности Игорь Мухин — о кинематографичности городов, деньгах и документальности

Фотограф Игорь Мухин — о городах и их людях, агрессии и факторах случайности

РБК
Ни отеля, ни лошадей: 5 советов, как не испортить себе отпуск невнимательностью к деталям Ни отеля, ни лошадей: 5 советов, как не испортить себе отпуск невнимательностью к деталям

Два москвича собрались в горы, но вместо релакса получили череду казусов

Вокруг света
Открыть в приложении