С какими материалами работают модераторы контента в TikTok?

ForbesБизнес

Зачем TikTok база изображений сексуализированного насилия над несовершеннолетними

Бывшие подрядчики TikTok заявляют, что справочным материалом для сторонних модераторов контента соцсети служит множество изображений с детьми, подвергшимися сексуализированному насилию, ― и все это находится в почти неограниченном корпоративном доступе

Александра С. Левин. Перевод Forbes USA. Перевод Антона Бундина

Фото Scott Eells / Bloomberg via Getty Images

Бывший сотрудник TikTok Нассер (фамилии этого и некоторых других собеседников не называются из соображений конфиденциальности) знал, что в процессе обучения на должность модератора контента TikTok ему придется иметь дело с неприятными материалами. Но когда ему и другим новичкам на обучении показали изображения сексуального характера без цензуры с участием детей, для него это стало настоящим шоком.

Нассер работал в сторонней компании Teleperformance, которая модерирует контент социальной сети. Нового сотрудника взяли на специальный проект, в рамках которого планировалось научить искусственный интеллект (ИИ) TikTok выявлять на платформе худшее из худшего. Спустя всего несколько дней после начала работы Нассеру и его коллегам показали натуралистические изображения и видео, где дети подвергаются действиям сексуального характера, ― все ролики и фотографии, удаленные из TikTok.

«У меня самого есть дочь, и мне кажется, что неправильно, когда это смотрит толпа незнакомых людей, ― рассказал Forbes Нассер (из Teleperformance он ушел в 2020 году). ― Думаю, что такое для обучения использовать нельзя».

Уитни Тернер, работавшая в Teleperformance по этой же программе TikTok в Эль-Пасо на протяжении чуть больше года и уволившаяся в 2021-м, тоже вспоминает, как на обучении ей показывали визуальные материалы с сексуализированным насилием над детьми. Сотруднице дали доступ к общей таблице. Сама Уитни и ее бывшие коллеги утверждают, что в файле полно материалов, нарушающих правила сообщества TikTok, в том числе сотни изображений с детьми, которых заставляют раздеваться или насилуют. Бывшие модераторы заявляют, что документ под названием DRR (англ. Daily Required Reading, «обязательная ежедневная вычитка») находился в широком доступе для сотрудников Teleperformance и TikTok еще этим летом. Несмотря на то что некоторым модераторам, задействованным по другим направлениям, просмотр этого документа был запрещен, многие источники рассказали Forbes о том, что свободный доступ к файлу имели сотни работников из обеих компаний. DRR и другие справочные материалы хранились в программе Lark, корпоративной системе китайского гиганта ByteDance, владельца социальной сети.

Уитни была настолько ошеломлена небрежным обращением с материалами, что сообщила об этом в ФБР и впоследствии, в июне, встречалась по этому поводу с агентом. В ФБР на вопросы о том, предвидится ли какое-то расследование, не ответили.

«Я модерировала контент и думала: это же чей-то сын, чья-то дочь. И их родители даже не знают, что у нас сохранены эти фотографии, эти видео, этот ужас, настоящее преступление, ― поделилась Уитни. ― Будь родители в курсе, я уверена, они бы сожгли TikTok дотла».

Президент глобального подразделения по доверию и безопасности Teleperformance Акаш Пугалия заявил Forbes, что ролики откровенного содержания с участием детей компания в целях обучения не применяет. Кроме того, он добавил, что фирма не хранит подобный контент в своих «инструментах калибровки», хотя, что это за инструменты и для чего используются, он не пояснил. Отвечать на другие вопросы из обширного списка о том, сколько людей имеют через DRR доступ к материалам с насилием в отношении детей и как Teleperformance охраняет визуальный данные, управленец тоже отказался.

TikTok ― далеко не единственная платформа, которая борется с материалами сексуального насилия над несовершеннолетними. Крупнейшие социальные сети мира давно прибегают к машинному обучению и помощи сторонних проверяющих, чтобы находить и удалять подобные записи до того, как они разлетятся по интернету. Многие фирмы сотрудничают с Национальным центром по поиску пропавших и подвергшихся насилию детей (National Center for Missing & Exploited Children), чтобы сообщать о подобных постах в своем приложении органам правопорядка.

Однако уникально то, как TikTok и его сторонние консультанты обращаются с таким контентом. Эксперты называют сложившийся подход в лучшем случае небрежным и халатным, а в худшем ― опасным и травмирующим снова и снова. Специалисты подчеркивают, что изображения сексуального характера с детьми при обучении модерации контента ― не важно, с цензурой или без, ― лишь унижает жертв каждый раз заново. Кроме того, хранение записей в документе с общим доступом безответственно и излишне.

Пресс-секретарь TikTok Джейми Фавацца заявила, что «материалы для обучения в компании имеют строгий контроль доступа и не включают в себя наглядные примеры материалов сексуального насилия над детьми», но признала, что бизнес работает со сторонними фирмами, у которых внутренние процессы могут отличаться. Отвечать на вопросы о том, сколько сотрудников имеют доступ к файлу DRR и где документ хранится, в TikTok отказались. Родительская компания ByteDance, разработчик платформы Lark, многочисленные запросы прокомментировать эту информацию оставила без внимания.

«Свободный и неограниченный оборот здесь не пройдет»

Изображения насилия над детьми и их эксплуатации противозаконны, и существуют строгие правила по обращению с такими данными в случае обнаружения. Материал подлежит незамедлительной блокировке, и о нем необходимо сообщать в систему CyberTipline Национального центра по поиску пропавших и подвергшихся насилию детей. Там персонал анализирует файлы и ищет их первоисточник, чтобы уведомить соответствующие правоохранительные органы. Как только компания сообщает о материале в профильный центр, ей официально разрешается хранить контент в течение 90 дней для помощи следствию. Но федеральный закон США четко требует от предприятий «минимизировать число сотрудников, которым дается доступ» к незаконному контенту, «хранить материалы в безопасном месте» и «обеспечивать полное уничтожение любого визуального изображения по запросу от органов правопорядка».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Люди повезли в карманах»: зачем россияне покупают слитки золота по 100 т в год «Люди повезли в карманах»: зачем россияне покупают слитки золота по 100 т в год

На фоне высоких котировок на золото, спрос на инвестиции в этот актив растет

Forbes
Возобновляемый ресурс: как отработанное ядерное топливо может залить мир энергией Возобновляемый ресурс: как отработанное ядерное топливо может залить мир энергией

Могут ли отходы от ядерного топлива стать ценнейшей энергией?

Forbes
Высокие ставки: что покупать на рынке акций по версии брокера ВТБ Высокие ставки: что покупать на рынке акций по версии брокера ВТБ

Что ВТБ советует выбрать для инвестиций сейчас?

Forbes
5 вопросов про Ивана Грозного 5 вопросов про Ивана Грозного

Основанные на домыслах вопросы о жизни Ивана Грозного

Maxim
1970-е и 1980-е: ленинградская «вторая культура» 1970-е и 1980-е: ленинградская «вторая культура»

Неподцензурная поэзия Ленинграда 70–80-х — тексты так называемой второй культуры

Полка
Режиссер Келли Райхардт — о фильме «Первая корова», внутренней кухне кино и о том, как снимать кино об Америке начала XIX века Режиссер Келли Райхардт — о фильме «Первая корова», внутренней кухне кино и о том, как снимать кино об Америке начала XIX века

Вспоминаем наше интервью с Келли Райхардт о картине «Первая корова»

Правила жизни
Еда от дьявола: какие продукты было запрещено употреблять в пищу на Руси Еда от дьявола: какие продукты было запрещено употреблять в пищу на Руси

Почему некоторые привычные нам продукты запрещались на Руси волею правителей

ТехИнсайдер
Как должна вести себя настоящая женщина: советы и наблюдения со страниц дневника таинственной японки Мурасаки Как должна вести себя настоящая женщина: советы и наблюдения со страниц дневника таинственной японки Мурасаки

Как девушке сохранять достоинство, занимая высокое положение в обществе?

VOICE
Вороньи уроки Вороньи уроки

Когда кедру было 35 лет, в его кроне свила гнездо серая ворона

Наука и жизнь
Немецкий дьявол с итальянскими корнями, привезенный из Америки: откуда взялось слово Немецкий дьявол с итальянскими корнями, привезенный из Америки: откуда взялось слово

Откуда взялось слово картофель и что оно означает?

ТехИнсайдер
Рыбников и Ларионова: неидеальная история любви самой красивой пары советского кинематографа Рыбников и Ларионова: неидеальная история любви самой красивой пары советского кинематографа

Николай Рыбников всю жизнь любил только одну женщину - Аллу Ларионову

VOICE
«Костыль для общения»: можно ли построить отношения без манипуляций «Костыль для общения»: можно ли построить отношения без манипуляций

Попробуем разобраться, можно ли построить отношения без манипуляции

Psychologies
Тонизирующий массаж роллами для хорошей осанки и против целлюлита Тонизирующий массаж роллами для хорошей осанки и против целлюлита

Для чего нужны роллы с рельефной поверхностью и как ими пользоваться?

Лиза
5 новых русских романов, которые стоит прочитать 5 новых русских романов, которые стоит прочитать

Книги, которые дадут цельное представление о современной российской литературе

Maxim
Одна вокруг света: путешествие через вулкан Тунупа и розовый фламинго, дитя заката Одна вокруг света: путешествие через вулкан Тунупа и розовый фламинго, дитя заката

История о трудной дороге и бескрайних залежах соли, в которых отражается небо

Forbes
Ссылка в «А.Л.Ж.И.Р»: как жили узницы крупнейшего женского лагеря ГУЛАГа Ссылка в «А.Л.Ж.И.Р»: как жили узницы крупнейшего женского лагеря ГУЛАГа

«А.Л.Ж.И.Р»: крупнейшее женское трудовое поселение в СССР

Forbes
«Неизведанное тело». Удивительные истории о том, как работает наш организм «Неизведанное тело». Удивительные истории о том, как работает наш организм

Отрывок из книги Джонатана Райсмена «Неизведанное тело» — о травмах глаз

N+1
Junk Reality Junk Reality

Основатели Junk Reality — как и для чего использовать метавселенные прямо сейчас

Собака.ru
Археологи нашли на новгородском Немецком дворе европейскую посуду и обувь Археологи нашли на новгородском Немецком дворе европейскую посуду и обувь

Руководитель экспедиции рассказал о находках, сделанных в слоях XIII–XIV веков

N+1
Сойти за своего: как адаптироваться к жизни в другой стране Сойти за своего: как адаптироваться к жизни в другой стране

Как интегрироваться в новое общество и преодолеть культурные барьеры?

Psychologies
Рушим мифы об эндоскопическом омоложении: убедись во всем на звездных примерах! Рушим мифы об эндоскопическом омоложении: убедись во всем на звездных примерах!

Разберем популярные мифы об эндоскопическом омоложении на звездных примерах

VOICE
«Люди мы русские, имена же наши Карл, Инегельд, Фарлоф...» «Люди мы русские, имена же наши Карл, Инегельд, Фарлоф...»

У сторонников версии о призвании норманнов на Русь есть железный аргумент

Дилетант
Чем отмыть зеленку в домашних условиях: любимую одежду еще можно спасти Чем отмыть зеленку в домашних условиях: любимую одежду еще можно спасти

Попробуем вывести пятно от зеленки с цветных и белых вещей в домашних условиях

ТехИнсайдер
Последний генеральный. Жизнь и смерть Михаила Горбачева Последний генеральный. Жизнь и смерть Михаила Горбачева

За что любили и ненавидели Михаила Сергеевича Горбачева

Правила жизни
Переход на приготовленную пищу помог людям тратить на жевание в пять раз меньше энергии Переход на приготовленную пищу помог людям тратить на жевание в пять раз меньше энергии

Человек тратит на жевание до 0,5 процента от обмена веществ в покое

N+1
Гештальт-терапия: прикосновение к реальности Гештальт-терапия: прикосновение к реальности

Как гештальт-терапия помогает нам осознать свои желания

Psychologies
Вернуть страсть: как снова соблазнить мужа, если вы давно вместе Вернуть страсть: как снова соблазнить мужа, если вы давно вместе

Существует ли способ разжечь сексуальный пыл?

VOICE
Люди + технологии = любовь. Как не терять связь даже на разных концах мира Люди + технологии = любовь. Как не терять связь даже на разных концах мира

Самые удивительные способы быть ближе даже сквозь расстояния

Правила жизни
«Каждый день?»: как часто необходимо мыться «Каждый день?»: как часто необходимо мыться

Как найти золотую середину в вопроса регулярной гигиены?

Psychologies
Зачем анализировать обратную связь от пользователей приложений: инсайд для тех, кто решил развивать свой продукт Зачем анализировать обратную связь от пользователей приложений: инсайд для тех, кто решил развивать свой продукт

Изучение обратной связи — важный этап в развитии продукта

ТехИнсайдер
Открыть в приложении