С какими материалами работают модераторы контента в TikTok?

ForbesБизнес

Зачем TikTok база изображений сексуализированного насилия над несовершеннолетними

Бывшие подрядчики TikTok заявляют, что справочным материалом для сторонних модераторов контента соцсети служит множество изображений с детьми, подвергшимися сексуализированному насилию, ― и все это находится в почти неограниченном корпоративном доступе

Александра С. Левин. Перевод Forbes USA. Перевод Антона Бундина

Фото Scott Eells / Bloomberg via Getty Images

Бывший сотрудник TikTok Нассер (фамилии этого и некоторых других собеседников не называются из соображений конфиденциальности) знал, что в процессе обучения на должность модератора контента TikTok ему придется иметь дело с неприятными материалами. Но когда ему и другим новичкам на обучении показали изображения сексуального характера без цензуры с участием детей, для него это стало настоящим шоком.

Нассер работал в сторонней компании Teleperformance, которая модерирует контент социальной сети. Нового сотрудника взяли на специальный проект, в рамках которого планировалось научить искусственный интеллект (ИИ) TikTok выявлять на платформе худшее из худшего. Спустя всего несколько дней после начала работы Нассеру и его коллегам показали натуралистические изображения и видео, где дети подвергаются действиям сексуального характера, ― все ролики и фотографии, удаленные из TikTok.

«У меня самого есть дочь, и мне кажется, что неправильно, когда это смотрит толпа незнакомых людей, ― рассказал Forbes Нассер (из Teleperformance он ушел в 2020 году). ― Думаю, что такое для обучения использовать нельзя».

Уитни Тернер, работавшая в Teleperformance по этой же программе TikTok в Эль-Пасо на протяжении чуть больше года и уволившаяся в 2021-м, тоже вспоминает, как на обучении ей показывали визуальные материалы с сексуализированным насилием над детьми. Сотруднице дали доступ к общей таблице. Сама Уитни и ее бывшие коллеги утверждают, что в файле полно материалов, нарушающих правила сообщества TikTok, в том числе сотни изображений с детьми, которых заставляют раздеваться или насилуют. Бывшие модераторы заявляют, что документ под названием DRR (англ. Daily Required Reading, «обязательная ежедневная вычитка») находился в широком доступе для сотрудников Teleperformance и TikTok еще этим летом. Несмотря на то что некоторым модераторам, задействованным по другим направлениям, просмотр этого документа был запрещен, многие источники рассказали Forbes о том, что свободный доступ к файлу имели сотни работников из обеих компаний. DRR и другие справочные материалы хранились в программе Lark, корпоративной системе китайского гиганта ByteDance, владельца социальной сети.

Уитни была настолько ошеломлена небрежным обращением с материалами, что сообщила об этом в ФБР и впоследствии, в июне, встречалась по этому поводу с агентом. В ФБР на вопросы о том, предвидится ли какое-то расследование, не ответили.

«Я модерировала контент и думала: это же чей-то сын, чья-то дочь. И их родители даже не знают, что у нас сохранены эти фотографии, эти видео, этот ужас, настоящее преступление, ― поделилась Уитни. ― Будь родители в курсе, я уверена, они бы сожгли TikTok дотла».

Президент глобального подразделения по доверию и безопасности Teleperformance Акаш Пугалия заявил Forbes, что ролики откровенного содержания с участием детей компания в целях обучения не применяет. Кроме того, он добавил, что фирма не хранит подобный контент в своих «инструментах калибровки», хотя, что это за инструменты и для чего используются, он не пояснил. Отвечать на другие вопросы из обширного списка о том, сколько людей имеют через DRR доступ к материалам с насилием в отношении детей и как Teleperformance охраняет визуальный данные, управленец тоже отказался.

TikTok ― далеко не единственная платформа, которая борется с материалами сексуального насилия над несовершеннолетними. Крупнейшие социальные сети мира давно прибегают к машинному обучению и помощи сторонних проверяющих, чтобы находить и удалять подобные записи до того, как они разлетятся по интернету. Многие фирмы сотрудничают с Национальным центром по поиску пропавших и подвергшихся насилию детей (National Center for Missing & Exploited Children), чтобы сообщать о подобных постах в своем приложении органам правопорядка.

Однако уникально то, как TikTok и его сторонние консультанты обращаются с таким контентом. Эксперты называют сложившийся подход в лучшем случае небрежным и халатным, а в худшем ― опасным и травмирующим снова и снова. Специалисты подчеркивают, что изображения сексуального характера с детьми при обучении модерации контента ― не важно, с цензурой или без, ― лишь унижает жертв каждый раз заново. Кроме того, хранение записей в документе с общим доступом безответственно и излишне.

Пресс-секретарь TikTok Джейми Фавацца заявила, что «материалы для обучения в компании имеют строгий контроль доступа и не включают в себя наглядные примеры материалов сексуального насилия над детьми», но признала, что бизнес работает со сторонними фирмами, у которых внутренние процессы могут отличаться. Отвечать на вопросы о том, сколько сотрудников имеют доступ к файлу DRR и где документ хранится, в TikTok отказались. Родительская компания ByteDance, разработчик платформы Lark, многочисленные запросы прокомментировать эту информацию оставила без внимания.

«Свободный и неограниченный оборот здесь не пройдет»

Изображения насилия над детьми и их эксплуатации противозаконны, и существуют строгие правила по обращению с такими данными в случае обнаружения. Материал подлежит незамедлительной блокировке, и о нем необходимо сообщать в систему CyberTipline Национального центра по поиску пропавших и подвергшихся насилию детей. Там персонал анализирует файлы и ищет их первоисточник, чтобы уведомить соответствующие правоохранительные органы. Как только компания сообщает о материале в профильный центр, ей официально разрешается хранить контент в течение 90 дней для помощи следствию. Но федеральный закон США четко требует от предприятий «минимизировать число сотрудников, которым дается доступ» к незаконному контенту, «хранить материалы в безопасном месте» и «обеспечивать полное уничтожение любого визуального изображения по запросу от органов правопорядка».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Накопленная усталость: почему молодые шведки чаще выбирают жизнь за счет партнера Накопленная усталость: почему молодые шведки чаще выбирают жизнь за счет партнера

Почему некоторые шведки выбирают отказ от карьеры и жизнь за счет партнера

Forbes
Вымрет ли человечество в случае ядерной зимы: ученые предсказали последствия мировой войны Вымрет ли человечество в случае ядерной зимы: ученые предсказали последствия мировой войны

Что произойдет после ядерной войны?

ТехИнсайдер
Мягкая сила: как бывшие спецназовцы развивают региональную сеть фитнес-студий Мягкая сила: как бывшие спецназовцы развивают региональную сеть фитнес-студий

Как армейские друзья создали сеть студий «мягкого» фитнеса

Forbes
Сталинская скорость Сталинская скорость

Несбывшиеся мечты о рекордных автомобилях

Автопилот
Мозг, исцеляющий себя Мозг, исцеляющий себя

Реальные истории людей, которые победили болезни и преобразили свой мозг

kiozk originals
Как не нужно делать: оказалось, что опытные Как не нужно делать: оказалось, что опытные

Опыт — не главный критерий, когда речь заходит об общении кошки и человека

ТехИнсайдер
Работа инсулина и рост нервов: открытия в биологии и медицине, сделанные женщинами Работа инсулина и рост нервов: открытия в биологии и медицине, сделанные женщинами

Женщины-лауреаты Нобелевской премии

Forbes
Помоги себе сам. Книги, которые помогут поддержать психическое здоровье «в домашних условиях» Помоги себе сам. Книги, которые помогут поддержать психическое здоровье «в домашних условиях»

Эти книги расскажут, по каким законам работает психика и тело

ТехИнсайдер
Сверхновая 1181 года вписалась в модель слияния двух белых карликов Сверхновая 1181 года вписалась в модель слияния двух белых карликов

Возникновение сверхновой произошло из-за слияния двух белых карликов

N+1
Три года в рабстве у чукчей: история советской ученой-этнографа Варвары Кузнецовой Три года в рабстве у чукчей: история советской ученой-этнографа Варвары Кузнецовой

Этнограф Варвара Кузнецова решила, что справится с путешествием на Чукотку

VOICE
Зачем бытовая техника следит за нами и чем это может быть опасно Зачем бытовая техника следит за нами и чем это может быть опасно

Как хакеры могут испортить тебе жизнь одним нажатием кнопки

Maxim
В 19 лет прославилась, в 20 убита мужем: трагическая судьба звезды Playboy Дороти Страттен В 19 лет прославилась, в 20 убита мужем: трагическая судьба звезды Playboy Дороти Страттен

В свои 20 лет Дороти Страттен имела всё — мужа, популярность, работу мечты

VOICE
6 мифов о космосе, в которые вы до сих пор верите 6 мифов о космосе, в которые вы до сих пор верите

По количеству существующих мифов космос может соперничать разве что с медициной

ТехИнсайдер
Атмосфера 90-х и озеро-море: как москвичка отдохнула в санатории на Иссык-Куле за 250 тысяч рублей Атмосфера 90-х и озеро-море: как москвичка отдохнула в санатории на Иссык-Куле за 250 тысяч рублей

Отзыв о двухнедельном путешествии по Кыргызстану

Вокруг света
Йога в самиздате, ритмическая гимнастика по ТВ и суперфуд в трехлитровой банке: каким был ЗОЖ в СССР Йога в самиздате, ритмическая гимнастика по ТВ и суперфуд в трехлитровой банке: каким был ЗОЖ в СССР

Думаете, повальное увлечение ЗОЖем — явление последних 10–15 лет? А вот и нет

Правила жизни
Свободные женщины 1920-х: как японские модан гару бросали вызов традиционалистам Свободные женщины 1920-х: как японские модан гару бросали вызов традиционалистам

Кем были модан гару и как они расшатали японское общество?

Forbes
Как стать эффективным: 9 простых советов Как стать эффективным: 9 простых советов

Вы упорно работаете, отдаете все силы, но результата почему-то все нет?

Psychologies
Как включить клавиатуру на ноутбуке: все проще, чем кажется Как включить клавиатуру на ноутбуке: все проще, чем кажется

Рассказываем о том, как включить клавиатуру на ноутбуке несколькими способами

CHIP
Моторы-миллионники: четыре уникальных двигателя из прошлого Моторы-миллионники: четыре уникальных двигателя из прошлого

Именно они вызвали к жизни легенду о том, что “раньше машины были надёжнее”

ТехИнсайдер
5 причин, почему нас пугают современные отношения 5 причин, почему нас пугают современные отношения

Как изменились отношения и почему мы стали их бояться?

Psychologies
Два фактора ожирения, о которых мало говорят: мнение эксперта Два фактора ожирения, о которых мало говорят: мнение эксперта

Факторы, которые постоянно упускаются при лечении ожирения

ТехИнсайдер
«Суббота — день обнимашек»: 4 новых факта об объятиях «Суббота — день обнимашек»: 4 новых факта об объятиях

Как связаны объятья, настроение и удовлетворенность жизнью?

Psychologies
Фарт инженера Павлуцкого Фарт инженера Павлуцкого

В местах этих на долю человека выпадет немало испытаний

Наука и жизнь
Что такое тест Бекдел-Уоллес и зачем кинематографу нетипичные женские персонажи Что такое тест Бекдел-Уоллес и зачем кинематографу нетипичные женские персонажи

Интересные самостоятельные героини — выгодное вложение для киностудий

Forbes
Можно ли удлинить ногтевое ложе? Да! Рассказываем, как это сделать Можно ли удлинить ногтевое ложе? Да! Рассказываем, как это сделать

Что делать, если природа не подарила тебе изящные ногти?

VOICE
История одной вещи: тушь «Ленинградская», в которую нужно поплевать История одной вещи: тушь «Ленинградская», в которую нужно поплевать

Шок-контент — «Ленинградскую» тушь все еще производят!

Правила жизни
4 национальных символа, которые на самом деле «иностранцы» 4 национальных символа, которые на самом деле «иностранцы»

Ты знал, что Сталинградский завод был построен в США?

Maxim
Газлайтинг: насилие, о котором не говорят Газлайтинг: насилие, о котором не говорят

Чем опасно постоянное обесценивание наших переживаний и суждений

Psychologies
«Облачно, возможны косатки». Морской биолог рассказывает, как они живут и общаются между собой «Облачно, возможны косатки». Морской биолог рассказывает, как они живут и общаются между собой

Отрывок из книги «Облачно, возможны косатки» — как косатки видят и слышат

N+1
От Голды Меир до Индиры Ганди: как женщины становились премьер-министрами От Голды Меир до Индиры Ганди: как женщины становились премьер-министрами

Женщины, которые, несмотря на трудности, реализовали свои политические амбиции

Forbes
Открыть в приложении