С какими материалами работают модераторы контента в TikTok?

ForbesБизнес

Зачем TikTok база изображений сексуализированного насилия над несовершеннолетними

Бывшие подрядчики TikTok заявляют, что справочным материалом для сторонних модераторов контента соцсети служит множество изображений с детьми, подвергшимися сексуализированному насилию, ― и все это находится в почти неограниченном корпоративном доступе

Александра С. Левин. Перевод Forbes USA. Перевод Антона Бундина

Фото Scott Eells / Bloomberg via Getty Images

Бывший сотрудник TikTok Нассер (фамилии этого и некоторых других собеседников не называются из соображений конфиденциальности) знал, что в процессе обучения на должность модератора контента TikTok ему придется иметь дело с неприятными материалами. Но когда ему и другим новичкам на обучении показали изображения сексуального характера без цензуры с участием детей, для него это стало настоящим шоком.

Нассер работал в сторонней компании Teleperformance, которая модерирует контент социальной сети. Нового сотрудника взяли на специальный проект, в рамках которого планировалось научить искусственный интеллект (ИИ) TikTok выявлять на платформе худшее из худшего. Спустя всего несколько дней после начала работы Нассеру и его коллегам показали натуралистические изображения и видео, где дети подвергаются действиям сексуального характера, ― все ролики и фотографии, удаленные из TikTok.

«У меня самого есть дочь, и мне кажется, что неправильно, когда это смотрит толпа незнакомых людей, ― рассказал Forbes Нассер (из Teleperformance он ушел в 2020 году). ― Думаю, что такое для обучения использовать нельзя».

Уитни Тернер, работавшая в Teleperformance по этой же программе TikTok в Эль-Пасо на протяжении чуть больше года и уволившаяся в 2021-м, тоже вспоминает, как на обучении ей показывали визуальные материалы с сексуализированным насилием над детьми. Сотруднице дали доступ к общей таблице. Сама Уитни и ее бывшие коллеги утверждают, что в файле полно материалов, нарушающих правила сообщества TikTok, в том числе сотни изображений с детьми, которых заставляют раздеваться или насилуют. Бывшие модераторы заявляют, что документ под названием DRR (англ. Daily Required Reading, «обязательная ежедневная вычитка») находился в широком доступе для сотрудников Teleperformance и TikTok еще этим летом. Несмотря на то что некоторым модераторам, задействованным по другим направлениям, просмотр этого документа был запрещен, многие источники рассказали Forbes о том, что свободный доступ к файлу имели сотни работников из обеих компаний. DRR и другие справочные материалы хранились в программе Lark, корпоративной системе китайского гиганта ByteDance, владельца социальной сети.

Уитни была настолько ошеломлена небрежным обращением с материалами, что сообщила об этом в ФБР и впоследствии, в июне, встречалась по этому поводу с агентом. В ФБР на вопросы о том, предвидится ли какое-то расследование, не ответили.

«Я модерировала контент и думала: это же чей-то сын, чья-то дочь. И их родители даже не знают, что у нас сохранены эти фотографии, эти видео, этот ужас, настоящее преступление, ― поделилась Уитни. ― Будь родители в курсе, я уверена, они бы сожгли TikTok дотла».

Президент глобального подразделения по доверию и безопасности Teleperformance Акаш Пугалия заявил Forbes, что ролики откровенного содержания с участием детей компания в целях обучения не применяет. Кроме того, он добавил, что фирма не хранит подобный контент в своих «инструментах калибровки», хотя, что это за инструменты и для чего используются, он не пояснил. Отвечать на другие вопросы из обширного списка о том, сколько людей имеют через DRR доступ к материалам с насилием в отношении детей и как Teleperformance охраняет визуальный данные, управленец тоже отказался.

TikTok ― далеко не единственная платформа, которая борется с материалами сексуального насилия над несовершеннолетними. Крупнейшие социальные сети мира давно прибегают к машинному обучению и помощи сторонних проверяющих, чтобы находить и удалять подобные записи до того, как они разлетятся по интернету. Многие фирмы сотрудничают с Национальным центром по поиску пропавших и подвергшихся насилию детей (National Center for Missing & Exploited Children), чтобы сообщать о подобных постах в своем приложении органам правопорядка.

Однако уникально то, как TikTok и его сторонние консультанты обращаются с таким контентом. Эксперты называют сложившийся подход в лучшем случае небрежным и халатным, а в худшем ― опасным и травмирующим снова и снова. Специалисты подчеркивают, что изображения сексуального характера с детьми при обучении модерации контента ― не важно, с цензурой или без, ― лишь унижает жертв каждый раз заново. Кроме того, хранение записей в документе с общим доступом безответственно и излишне.

Пресс-секретарь TikTok Джейми Фавацца заявила, что «материалы для обучения в компании имеют строгий контроль доступа и не включают в себя наглядные примеры материалов сексуального насилия над детьми», но признала, что бизнес работает со сторонними фирмами, у которых внутренние процессы могут отличаться. Отвечать на вопросы о том, сколько сотрудников имеют доступ к файлу DRR и где документ хранится, в TikTok отказались. Родительская компания ByteDance, разработчик платформы Lark, многочисленные запросы прокомментировать эту информацию оставила без внимания.

«Свободный и неограниченный оборот здесь не пройдет»

Изображения насилия над детьми и их эксплуатации противозаконны, и существуют строгие правила по обращению с такими данными в случае обнаружения. Материал подлежит незамедлительной блокировке, и о нем необходимо сообщать в систему CyberTipline Национального центра по поиску пропавших и подвергшихся насилию детей. Там персонал анализирует файлы и ищет их первоисточник, чтобы уведомить соответствующие правоохранительные органы. Как только компания сообщает о материале в профильный центр, ей официально разрешается хранить контент в течение 90 дней для помощи следствию. Но федеральный закон США четко требует от предприятий «минимизировать число сотрудников, которым дается доступ» к незаконному контенту, «хранить материалы в безопасном месте» и «обеспечивать полное уничтожение любого визуального изображения по запросу от органов правопорядка».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Преобразовать страх в интерес: как побороть неуверенность в себе Преобразовать страх в интерес: как побороть неуверенность в себе

Откуда берется неуверенность в себе, чем она отличается от низкой самооценки

Forbes
Как зарабатывать на рекламе на автомобиле и не получить штрафы Как зарабатывать на рекламе на автомобиле и не получить штрафы

Как превратить автомобиль в средство продвижения рекламы в массы?

РБК
Братья Либерманы продают акции самих себя, чтобы другие заработали, — это их «экстремальный способ проверить концепцию» Братья Либерманы продают акции самих себя, чтобы другие заработали, — это их «экстремальный способ проверить концепцию»

Зачем братья Либерманы продают самих себя?

VC.RU
«Смотришь на эти вывески, и они честно заявляют — стало хуже». Что не так с ребрендингом западных компаний, попавших в руки российских бизнесменов «Смотришь на эти вывески, и они честно заявляют — стало хуже». Что не так с ребрендингом западных компаний, попавших в руки российских бизнесменов

Почему правильный ребрендинг — это важно? И почему он не у всех получается?

Inc.
Как прокачать память, работая с телом? Как прокачать память, работая с телом?

Отличный повод прокачать когнитивные функции

Psychologies

Иногда мир становится словно картонным...

The Voicemag
Как оптимизировать Windows 11 и Windows 10 для игр: компьютер будет «летать»! Как оптимизировать Windows 11 и Windows 10 для игр: компьютер будет «летать»!

Мало купить мощный компьютер, его нужно еще и оптимизировать

TechInsider
Длинные руки помощи Длинные руки помощи

Телемедицина — основа системы здравоохранения страны

Цифровой океан
Маньяк, который продолжил убивать в тюрьме: история «архангельского Чикатило» Сергея Шипилова Маньяк, который продолжил убивать в тюрьме: история «архангельского Чикатило» Сергея Шипилова

«Я — архангельский Чикатило», — обычно говорит он с гордой улыбкой

The Voicemag
Финансовая сепарация: что делать, если женщина материально зависит от мужа Финансовая сепарация: что делать, если женщина материально зависит от мужа

Как бороться с финансовой зависимостью в отношениях?

Psychologies
В детстве вас не замечали: 7 последствий жизни в токсичной семье В детстве вас не замечали: 7 последствий жизни в токсичной семье

Какие «хвосты» из детства в токсичной семье могут отравлять взрослую жизнь?

Psychologies
Темная и светлая триады личности: как наука объясняет доброе и злое начала в человеке Темная и светлая триады личности: как наука объясняет доброе и злое начала в человеке

Почему одних людей мы называем «добрыми», а других скорее считаем «злыми»?

Forbes
Сталинская скорость Сталинская скорость

Несбывшиеся мечты о рекордных автомобилях

Автопилот
Беги быстрее: как спорт превратился в социальный лифт и почему он не всегда работает Беги быстрее: как спорт превратился в социальный лифт и почему он не всегда работает

Почему в большом спорте одни добиваются успеха, а другие уносят с собой травмы

Forbes
Рыбников и Ларионова: неидеальная история любви самой красивой пары советского кинематографа Рыбников и Ларионова: неидеальная история любви самой красивой пары советского кинематографа

Николай Рыбников всю жизнь любил только одну женщину - Аллу Ларионову

The Voicemag
Как настроить велосипедный переключатель скоростей в любых условиях Как настроить велосипедный переключатель скоростей в любых условиях

Как любителю настроить переключатель на велосипеде?

TechInsider
Инвесторы назвали 5 фраз, от которых фаундерам нужно отказаться во время питчинга стартапа Инвесторы назвали 5 фраз, от которых фаундерам нужно отказаться во время питчинга стартапа

Фразы, которые не стоит использовать в презентации стартапа

Inc.
«Все, что движется». Прогулки по беспокойной Вселенной от космических орбит до квантовых полей «Все, что движется». Прогулки по беспокойной Вселенной от космических орбит до квантовых полей

Отрывок из книги «Все, что движется» — как развивалась научная картина мира

N+1
«Люди мы русские, имена же наши Карл, Инегельд, Фарлоф...» «Люди мы русские, имена же наши Карл, Инегельд, Фарлоф...»

У сторонников версии о призвании норманнов на Русь есть железный аргумент

Дилетант
Насколько важно сохранять осанку и спасет ли это вас от болей в спине? Ответ ученых может вас сильно удивить Насколько важно сохранять осанку и спасет ли это вас от болей в спине? Ответ ученых может вас сильно удивить

Действительно ли ровная осанка влияет на здоровье спины?

TechInsider
Павел Деревянко: «Девчонки считают меня привлекательным» Павел Деревянко: «Девчонки считают меня привлекательным»

Главный по волейболу Паша Деревянко рассказывает про популярность и деньги

Maxim
С кем из знаменитостей знакома королева Елизавета: от Мэрилин Монро до Леди Гаги С кем из знаменитостей знакома королева Елизавета: от Мэрилин Монро до Леди Гаги

Елизавета II за 70 лет в статусе королевы повидала немало знаменитостей

The Voicemag
Ученые призывали принять скорейшие меры по улучшению климата на Земле — иначе последствия могут быть ужасными Ученые призывали принять скорейшие меры по улучшению климата на Земле — иначе последствия могут быть ужасными

Изменения климата затронут все сферы жизни, что приведет к печальному финалу

TechInsider
«Любимый ребенок Компартии»: как TikTok связан с провластными СМИ Китая «Любимый ребенок Компартии»: как TikTok связан с провластными СМИ Китая

Коммунистическая партия, провластные СМИ и TikTok

Forbes
Сойти с пути: как топ-менеджеру успешно перейти из кризисной отрасли в растущую Сойти с пути: как топ-менеджеру успешно перейти из кризисной отрасли в растущую

Кому доступен кросс-индустриальный переход и как его упростить

Forbes
«Стоп-механизмы» успеха: что их запускает? «Стоп-механизмы» успеха: что их запускает?

Что мешает нам добиваться целей?

Psychologies
Синдром одомашнивания: отрывок из книги «Парадокс добродетели» Ричарда Рэнгема Синдром одомашнивания: отрывок из книги «Парадокс добродетели» Ричарда Рэнгема

Почему людям свойственны одновременно доброта и жестокость?

СНОБ
Калорийность рациона: зачем нужны белки и жиры Калорийность рациона: зачем нужны белки и жиры

Чем определяется калорийность рациона?

РБК
7 советов, которые помогут похудеть после 40 лет 7 советов, которые помогут похудеть после 40 лет

Кто сказал, что красивая фигура после 40 лет – сложно?

TechInsider
Полив этиловым спиртом защитил резуховидку от засухи Полив этиловым спиртом защитил резуховидку от засухи

Генетики предложили повысить засухоустойчивость растений с помощью этанола

N+1
Открыть в приложении