С какими материалами работают модераторы контента в TikTok?

ForbesБизнес

Зачем TikTok база изображений сексуализированного насилия над несовершеннолетними

Бывшие подрядчики TikTok заявляют, что справочным материалом для сторонних модераторов контента соцсети служит множество изображений с детьми, подвергшимися сексуализированному насилию, ― и все это находится в почти неограниченном корпоративном доступе

Александра С. Левин. Перевод Forbes USA. Перевод Антона Бундина

Фото Scott Eells / Bloomberg via Getty Images

Бывший сотрудник TikTok Нассер (фамилии этого и некоторых других собеседников не называются из соображений конфиденциальности) знал, что в процессе обучения на должность модератора контента TikTok ему придется иметь дело с неприятными материалами. Но когда ему и другим новичкам на обучении показали изображения сексуального характера без цензуры с участием детей, для него это стало настоящим шоком.

Нассер работал в сторонней компании Teleperformance, которая модерирует контент социальной сети. Нового сотрудника взяли на специальный проект, в рамках которого планировалось научить искусственный интеллект (ИИ) TikTok выявлять на платформе худшее из худшего. Спустя всего несколько дней после начала работы Нассеру и его коллегам показали натуралистические изображения и видео, где дети подвергаются действиям сексуального характера, ― все ролики и фотографии, удаленные из TikTok.

«У меня самого есть дочь, и мне кажется, что неправильно, когда это смотрит толпа незнакомых людей, ― рассказал Forbes Нассер (из Teleperformance он ушел в 2020 году). ― Думаю, что такое для обучения использовать нельзя».

Уитни Тернер, работавшая в Teleperformance по этой же программе TikTok в Эль-Пасо на протяжении чуть больше года и уволившаяся в 2021-м, тоже вспоминает, как на обучении ей показывали визуальные материалы с сексуализированным насилием над детьми. Сотруднице дали доступ к общей таблице. Сама Уитни и ее бывшие коллеги утверждают, что в файле полно материалов, нарушающих правила сообщества TikTok, в том числе сотни изображений с детьми, которых заставляют раздеваться или насилуют. Бывшие модераторы заявляют, что документ под названием DRR (англ. Daily Required Reading, «обязательная ежедневная вычитка») находился в широком доступе для сотрудников Teleperformance и TikTok еще этим летом. Несмотря на то что некоторым модераторам, задействованным по другим направлениям, просмотр этого документа был запрещен, многие источники рассказали Forbes о том, что свободный доступ к файлу имели сотни работников из обеих компаний. DRR и другие справочные материалы хранились в программе Lark, корпоративной системе китайского гиганта ByteDance, владельца социальной сети.

Уитни была настолько ошеломлена небрежным обращением с материалами, что сообщила об этом в ФБР и впоследствии, в июне, встречалась по этому поводу с агентом. В ФБР на вопросы о том, предвидится ли какое-то расследование, не ответили.

«Я модерировала контент и думала: это же чей-то сын, чья-то дочь. И их родители даже не знают, что у нас сохранены эти фотографии, эти видео, этот ужас, настоящее преступление, ― поделилась Уитни. ― Будь родители в курсе, я уверена, они бы сожгли TikTok дотла».

Президент глобального подразделения по доверию и безопасности Teleperformance Акаш Пугалия заявил Forbes, что ролики откровенного содержания с участием детей компания в целях обучения не применяет. Кроме того, он добавил, что фирма не хранит подобный контент в своих «инструментах калибровки», хотя, что это за инструменты и для чего используются, он не пояснил. Отвечать на другие вопросы из обширного списка о том, сколько людей имеют через DRR доступ к материалам с насилием в отношении детей и как Teleperformance охраняет визуальный данные, управленец тоже отказался.

TikTok ― далеко не единственная платформа, которая борется с материалами сексуального насилия над несовершеннолетними. Крупнейшие социальные сети мира давно прибегают к машинному обучению и помощи сторонних проверяющих, чтобы находить и удалять подобные записи до того, как они разлетятся по интернету. Многие фирмы сотрудничают с Национальным центром по поиску пропавших и подвергшихся насилию детей (National Center for Missing & Exploited Children), чтобы сообщать о подобных постах в своем приложении органам правопорядка.

Однако уникально то, как TikTok и его сторонние консультанты обращаются с таким контентом. Эксперты называют сложившийся подход в лучшем случае небрежным и халатным, а в худшем ― опасным и травмирующим снова и снова. Специалисты подчеркивают, что изображения сексуального характера с детьми при обучении модерации контента ― не важно, с цензурой или без, ― лишь унижает жертв каждый раз заново. Кроме того, хранение записей в документе с общим доступом безответственно и излишне.

Пресс-секретарь TikTok Джейми Фавацца заявила, что «материалы для обучения в компании имеют строгий контроль доступа и не включают в себя наглядные примеры материалов сексуального насилия над детьми», но признала, что бизнес работает со сторонними фирмами, у которых внутренние процессы могут отличаться. Отвечать на вопросы о том, сколько сотрудников имеют доступ к файлу DRR и где документ хранится, в TikTok отказались. Родительская компания ByteDance, разработчик платформы Lark, многочисленные запросы прокомментировать эту информацию оставила без внимания.

«Свободный и неограниченный оборот здесь не пройдет»

Изображения насилия над детьми и их эксплуатации противозаконны, и существуют строгие правила по обращению с такими данными в случае обнаружения. Материал подлежит незамедлительной блокировке, и о нем необходимо сообщать в систему CyberTipline Национального центра по поиску пропавших и подвергшихся насилию детей. Там персонал анализирует файлы и ищет их первоисточник, чтобы уведомить соответствующие правоохранительные органы. Как только компания сообщает о материале в профильный центр, ей официально разрешается хранить контент в течение 90 дней для помощи следствию. Но федеральный закон США четко требует от предприятий «минимизировать число сотрудников, которым дается доступ» к незаконному контенту, «хранить материалы в безопасном месте» и «обеспечивать полное уничтожение любого визуального изображения по запросу от органов правопорядка».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Порочная королева»: как мораль XVI века приводила женщин на казнь за измену мужу «Порочная королева»: как мораль XVI века приводила женщин на казнь за измену мужу

Отрывок из романа «Порочная королева» о жене Генриха XVIII, Кэтрин Говард

Forbes
Химики научились получать карбеноиды из альдегидов Химики научились получать карбеноиды из альдегидов

Химики разработали метод превращения альдегидов в нестабилизированные карбеноиды

N+1
Женcовет: эксперты оценили потенциал российского фемтеха Женcовет: эксперты оценили потенциал российского фемтеха

Рынок фемтеха в России в перспективе пяти-семи лет может вырасти до 110 млрд

Forbes
Наталья Подольская и Владимир Пресняков. «Так и живем: один подумал — другой сказал» Наталья Подольская и Владимир Пресняков. «Так и живем: один подумал — другой сказал»

Интервью с Натальей Подольской о ее детях, программах и песнях

Коллекция. Караван историй
Первая минута Первая минута

Как заставить начало разговора работать на результат

kiozk originals
Донья Пас: катастрофа, унесшая больше жизней, чем гибель Титаника Донья Пас: катастрофа, унесшая больше жизней, чем гибель Титаника

Паром Донья Пас должен был прибыть в Манилу в четыре часа утра

VOICE
Финансовая сепарация: что делать, если женщина материально зависит от мужа Финансовая сепарация: что делать, если женщина материально зависит от мужа

Как бороться с финансовой зависимостью в отношениях?

Psychologies
Потерянный человек в потерянном раю Потерянный человек в потерянном раю

Памяти Натальи Нестеровой

Weekend
Спасти отношения с любимым человеком: 10 шагов Спасти отношения с любимым человеком: 10 шагов

Стоит ли сохранять отношения, когда они трещат по швам?

Psychologies
Почему отдых вызывает негатив: ловушки выходного дня Почему отдых вызывает негатив: ловушки выходного дня

Как настроиться на мысли о чем-то полезном или радостном в выходной день?

Psychologies
Ученые: некоторые виды стресса могут улучшить работу мозга и снизить риск психических заболеваний Ученые: некоторые виды стресса могут улучшить работу мозга и снизить риск психических заболеваний

Стресс может быть полезен для мозга и вашего будущего

Inc.
Как выбрать весы для кухни: простая инструкция Как выбрать весы для кухни: простая инструкция

Какие детали надо учесть, чтобы выбрать лучшие весы для кухни?

CHIP
Советские мультфильмы, которые учили детей вредному Советские мультфильмы, которые учили детей вредному

Если пересмотреть мультики нашего детства, то к многим из них возникают вопросы

Maxim
Как быстро и просто узнать возраст вашей кошки Как быстро и просто узнать возраст вашей кошки

Зубы, шерсть и вес — как выяснить, сколько лет кошке?

ТехИнсайдер
Измельчитель пищевых отходов для раковины: что это такое и зачем он нужен Измельчитель пищевых отходов для раковины: что это такое и зачем он нужен

Диспозер: измельчитель пищевых отходов, который станет частью вашей жизни

CHIP
Злодеи среди нас Злодеи среди нас

История нераскрытых преступлений из реальной жизни

Weekend
Былое и думы вымышленного предпринимателя: почему бизнес-романы так популярны Былое и думы вымышленного предпринимателя: почему бизнес-романы так популярны

Так называемые бизнес-романы — истории успешного бизнеса, чаще всего вымышленные

Forbes
Можно ли удлинить ногтевое ложе? Да! Рассказываем, как это сделать Можно ли удлинить ногтевое ложе? Да! Рассказываем, как это сделать

Что делать, если природа не подарила тебе изящные ногти?

VOICE
Свободные женщины 1920-х: как японские модан гару бросали вызов традиционалистам Свободные женщины 1920-х: как японские модан гару бросали вызов традиционалистам

Кем были модан гару и как они расшатали японское общество?

Forbes
Какова вероятность погибнуть от космического мусора? Какова вероятность погибнуть от космического мусора?

Знаешь ли ты, что нам на голову постоянно из космоса что-то валится?

Maxim

Страхи в постели часто вообще никак не связаны с реальным положением дел

VOICE
Почему всем нравится совершенно разная еда: оказалось, проблема в генетике Почему всем нравится совершенно разная еда: оказалось, проблема в генетике

Почему одним людям нравятся брокколи и улитки, а другим нет?

ТехИнсайдер
От Голды Меир до Индиры Ганди: как женщины становились премьер-министрами От Голды Меир до Индиры Ганди: как женщины становились премьер-министрами

Женщины, которые, несмотря на трудности, реализовали свои политические амбиции

Forbes
Счастье не за горами Счастье не за горами

Пермь – культурная столица Урала. Есть повод присмотреться к ней поближе

Лиза
Гид по косметологии: что делать в 20, 30, 40 и 50 лет Гид по косметологии: что делать в 20, 30, 40 и 50 лет

Зачем ходить к косметологу, если все устраивает и жалоб нет?

Psychologies
Почему вы просыпаетесь уставшим: 8 причин Почему вы просыпаетесь уставшим: 8 причин

Многие люди часто не просто не высыпаются, а встают разбитыми и уставшими

ТехИнсайдер
Почему маленькие дети так часто заражаются острицами и как уберечь ребенка от паразитов Почему маленькие дети так часто заражаются острицами и как уберечь ребенка от паразитов

Острицы способны нарушить даже самые всеобъемлющие стандарты гигиены

ТехИнсайдер
Дочери Евы: генеалогию человечества по женской линии можно проследить до самой праматери Дочери Евы: генеалогию человечества по женской линии можно проследить до самой праматери

«Адам» и «Ева» — виртуальные точки, с которых человечество ведет родословную

ТехИнсайдер
Резинки-пружинки и другие небезопасные аксессуары, которые портят твои волосы Резинки-пружинки и другие небезопасные аксессуары, которые портят твои волосы

Сегодня мы расскажем тебе, какие аксессуары и как могут навредить твоим локонам

VOICE
Из-за чего судятся акционеры одной из самых популярных франшиз «Мозгобойня» Из-за чего судятся акционеры одной из самых популярных франшиз «Мозгобойня»

Почему сеть паб-квизов «Мозгобойня» раздирает корпоративный конфликт

Forbes
Открыть в приложении