С какими материалами работают модераторы контента в TikTok?

ForbesБизнес

Зачем TikTok база изображений сексуализированного насилия над несовершеннолетними

Бывшие подрядчики TikTok заявляют, что справочным материалом для сторонних модераторов контента соцсети служит множество изображений с детьми, подвергшимися сексуализированному насилию, ― и все это находится в почти неограниченном корпоративном доступе

Александра С. Левин. Перевод Forbes USA. Перевод Антона Бундина

Фото Scott Eells / Bloomberg via Getty Images

Бывший сотрудник TikTok Нассер (фамилии этого и некоторых других собеседников не называются из соображений конфиденциальности) знал, что в процессе обучения на должность модератора контента TikTok ему придется иметь дело с неприятными материалами. Но когда ему и другим новичкам на обучении показали изображения сексуального характера без цензуры с участием детей, для него это стало настоящим шоком.

Нассер работал в сторонней компании Teleperformance, которая модерирует контент социальной сети. Нового сотрудника взяли на специальный проект, в рамках которого планировалось научить искусственный интеллект (ИИ) TikTok выявлять на платформе худшее из худшего. Спустя всего несколько дней после начала работы Нассеру и его коллегам показали натуралистические изображения и видео, где дети подвергаются действиям сексуального характера, ― все ролики и фотографии, удаленные из TikTok.

«У меня самого есть дочь, и мне кажется, что неправильно, когда это смотрит толпа незнакомых людей, ― рассказал Forbes Нассер (из Teleperformance он ушел в 2020 году). ― Думаю, что такое для обучения использовать нельзя».

Уитни Тернер, работавшая в Teleperformance по этой же программе TikTok в Эль-Пасо на протяжении чуть больше года и уволившаяся в 2021-м, тоже вспоминает, как на обучении ей показывали визуальные материалы с сексуализированным насилием над детьми. Сотруднице дали доступ к общей таблице. Сама Уитни и ее бывшие коллеги утверждают, что в файле полно материалов, нарушающих правила сообщества TikTok, в том числе сотни изображений с детьми, которых заставляют раздеваться или насилуют. Бывшие модераторы заявляют, что документ под названием DRR (англ. Daily Required Reading, «обязательная ежедневная вычитка») находился в широком доступе для сотрудников Teleperformance и TikTok еще этим летом. Несмотря на то что некоторым модераторам, задействованным по другим направлениям, просмотр этого документа был запрещен, многие источники рассказали Forbes о том, что свободный доступ к файлу имели сотни работников из обеих компаний. DRR и другие справочные материалы хранились в программе Lark, корпоративной системе китайского гиганта ByteDance, владельца социальной сети.

Уитни была настолько ошеломлена небрежным обращением с материалами, что сообщила об этом в ФБР и впоследствии, в июне, встречалась по этому поводу с агентом. В ФБР на вопросы о том, предвидится ли какое-то расследование, не ответили.

«Я модерировала контент и думала: это же чей-то сын, чья-то дочь. И их родители даже не знают, что у нас сохранены эти фотографии, эти видео, этот ужас, настоящее преступление, ― поделилась Уитни. ― Будь родители в курсе, я уверена, они бы сожгли TikTok дотла».

Президент глобального подразделения по доверию и безопасности Teleperformance Акаш Пугалия заявил Forbes, что ролики откровенного содержания с участием детей компания в целях обучения не применяет. Кроме того, он добавил, что фирма не хранит подобный контент в своих «инструментах калибровки», хотя, что это за инструменты и для чего используются, он не пояснил. Отвечать на другие вопросы из обширного списка о том, сколько людей имеют через DRR доступ к материалам с насилием в отношении детей и как Teleperformance охраняет визуальный данные, управленец тоже отказался.

TikTok ― далеко не единственная платформа, которая борется с материалами сексуального насилия над несовершеннолетними. Крупнейшие социальные сети мира давно прибегают к машинному обучению и помощи сторонних проверяющих, чтобы находить и удалять подобные записи до того, как они разлетятся по интернету. Многие фирмы сотрудничают с Национальным центром по поиску пропавших и подвергшихся насилию детей (National Center for Missing & Exploited Children), чтобы сообщать о подобных постах в своем приложении органам правопорядка.

Однако уникально то, как TikTok и его сторонние консультанты обращаются с таким контентом. Эксперты называют сложившийся подход в лучшем случае небрежным и халатным, а в худшем ― опасным и травмирующим снова и снова. Специалисты подчеркивают, что изображения сексуального характера с детьми при обучении модерации контента ― не важно, с цензурой или без, ― лишь унижает жертв каждый раз заново. Кроме того, хранение записей в документе с общим доступом безответственно и излишне.

Пресс-секретарь TikTok Джейми Фавацца заявила, что «материалы для обучения в компании имеют строгий контроль доступа и не включают в себя наглядные примеры материалов сексуального насилия над детьми», но признала, что бизнес работает со сторонними фирмами, у которых внутренние процессы могут отличаться. Отвечать на вопросы о том, сколько сотрудников имеют доступ к файлу DRR и где документ хранится, в TikTok отказались. Родительская компания ByteDance, разработчик платформы Lark, многочисленные запросы прокомментировать эту информацию оставила без внимания.

«Свободный и неограниченный оборот здесь не пройдет»

Изображения насилия над детьми и их эксплуатации противозаконны, и существуют строгие правила по обращению с такими данными в случае обнаружения. Материал подлежит незамедлительной блокировке, и о нем необходимо сообщать в систему CyberTipline Национального центра по поиску пропавших и подвергшихся насилию детей. Там персонал анализирует файлы и ищет их первоисточник, чтобы уведомить соответствующие правоохранительные органы. Как только компания сообщает о материале в профильный центр, ей официально разрешается хранить контент в течение 90 дней для помощи следствию. Но федеральный закон США четко требует от предприятий «минимизировать число сотрудников, которым дается доступ» к незаконному контенту, «хранить материалы в безопасном месте» и «обеспечивать полное уничтожение любого визуального изображения по запросу от органов правопорядка».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

ПТСР у детей: в чем опасность и как взрослые могут помочь справиться с расстройством ПТСР у детей: в чем опасность и как взрослые могут помочь справиться с расстройством

Как ПТСР проявляется у детей и на что стоит обратить внимание

Forbes
Обаяние Алании Обаяние Алании

Путешествие по Алании будет запоминающимся и сильно не ударит по вашему кошельку

Отдых в России
Все оттенки приватности: как не превратить забор вокруг дома в клетку Все оттенки приватности: как не превратить забор вокруг дома в клетку

Как при установке забора или шлагбаума у дома не нарушить закон

Inc.
Физики-теоретики доказали устойчивость черных дыр Физики-теоретики доказали устойчивость черных дыр

Гравитационисты изучила устойчивость черной дыры Керра с малым угловым моментом

N+1
Как стать лучшим мужчиной в постели девушки: секс-эксперт Трейси Кокс поделилась секретами Как стать лучшим мужчиной в постели девушки: секс-эксперт Трейси Кокс поделилась секретами

Что служит причиной неудовлетворенности женщины и как это исправить

Maxim
Как узнать, подойдет ли игра на ПК? Два простых метода Как узнать, подойдет ли игра на ПК? Два простых метода

Способы, которые помогут понять, подходит ли игра по системным требованиям

CHIP
Рипофобия: когда стремление к чистоте превращается в одержимость Рипофобия: когда стремление к чистоте превращается в одержимость

Что такое рипофобия и как с ней справиться?

Psychologies
Кристоф Андре: «Как я упражняюсь в счастье» Кристоф Андре: «Как я упражняюсь в счастье»

Отрывок из книги Кристофа Андре «И не забудь быть счастливым»

Psychologies
Греть предметы, а не воздух: в чем особенность инфракрасных обогревателей Греть предметы, а не воздух: в чем особенность инфракрасных обогревателей

Какой обогреватель лучше — инфракрасный или конвекционный?

CHIP
«С тех пор там обитают мертвецы»: в прокат выходит комедийный хоррор «Убойный монтаж» «С тех пор там обитают мертвецы»: в прокат выходит комедийный хоррор «Убойный монтаж»

Как автор «Убойного монтажа» препарирует реальность

Forbes
Наушники со встроенным локатором распознали выражение лица по форме щек Наушники со встроенным локатором распознали выражение лица по форме щек

Инженеры разработали наушники, способные распознавать мимику лица пользователя

N+1
Григорий Распутин. Грешный старец у трона Российской империи Григорий Распутин. Грешный старец у трона Российской империи

Почему "грязный деревенский мужик" получил такую неограниченную власть

Караван историй
«Я просто не выспался»: как сон влияет на наш характер «Я просто не выспался»: как сон влияет на наш характер

Сон меняет отношение к окружающим и желание им помогать

Psychologies
Правила секса Светланы Бондарчук Правила секса Светланы Бондарчук

Приглашенный главный редактор делится открытиями на пути принятия себя

Psychologies
Сверхновая 1181 года вписалась в модель слияния двух белых карликов Сверхновая 1181 года вписалась в модель слияния двух белых карликов

Возникновение сверхновой произошло из-за слияния двух белых карликов

N+1
Прованс в интерьере Прованс в интерьере

Советы по обустройству каждой комнаты в стиле прованс

Лиза
Миф или правда: смартфоны с мощным процессором быстрее садятся? Миф или правда: смартфоны с мощным процессором быстрее садятся?

Процессоры для смартфонов — производительность за энергопотребление?

CHIP

Иногда мир становится словно картонным...

VOICE
Храните искусство в банке: 10 корпоративных коллекций современного искусства Храните искусство в банке: 10 корпоративных коллекций современного искусства

Зачем банки покупают, коллекционируют и где выставляют произведения искусства?

Forbes
Людмила Петрановская: Про возраст, время и подснежники Людмила Петрановская: Про возраст, время и подснежники

Отрывок из книги психолога Людмилы Петрановской «Взрослые и дети. #Многобукв»

СНОБ
Великие нюдсы, которые вошли в историю Великие нюдсы, которые вошли в историю

Нюдсы человечество изобрело намного раньше, чем телефоны с камерой

Maxim
Кирилл Рябов: «Женщина» Кирилл Рябов: «Женщина»

Отрывок из сборника рассказов, соединяющего лейтмотивы гуманистической традиции

СНОБ
Как актриса Нишель Николс и сериал «Стартрек» помогли движению за гражданские права в США Как актриса Нишель Николс и сериал «Стартрек» помогли движению за гражданские права в США

Как роль Нишель Николс в космической франшизе повлияла на права женщин в США

СНОБ
5 продуктов, которые можно есть перед сном, если вы хотите похудеть 5 продуктов, которые можно есть перед сном, если вы хотите похудеть

Чтобы сбросить лишний вес, есть на ночь не только можно, но и нужно!

ТехИнсайдер
Каких врачей нужно посещать людям старше 30 лет и почему: рекомендации терапевта Каких врачей нужно посещать людям старше 30 лет и почему: рекомендации терапевта

Каких специалистов вам следует посетить в зависимости от вашего пола и возраста?

Psychologies
Биотехнологии в борьбе с кровососами: ученые нашли способ избавиться от комаров на даче. Теперь отдыхаем спокойно! Биотехнологии в борьбе с кровососами: ученые нашли способ избавиться от комаров на даче. Теперь отдыхаем спокойно!

Решения, которые позволяют быстро избавиться от насекомых

ТехИнсайдер
Эффективные способы укрепить ногти в домашних условиях Эффективные способы укрепить ногти в домашних условиях

На красоту и здоровье ногтей влияет множество факторов

VOICE
Жить – можно Жить – можно

Что такое «биполярка» и почему шизофрения больше не приговор?

Psychologies
Квантовые блуждания атомов помогли искать с оракулом Квантовые блуждания атомов помогли искать с оракулом

Экспериментально реализовали квантовые блуждания нейтральных атомов стронция-88

N+1
Зачем бытовая техника следит за нами и чем это может быть опасно Зачем бытовая техника следит за нами и чем это может быть опасно

Как хакеры могут испортить тебе жизнь одним нажатием кнопки

Maxim
Открыть в приложении