Помощник или надсмотрщик
Игнорирование рисков, связанных с распространением искусственного интеллекта, лишь увеличивает их шансы на реализацию.
Первоначальная эйфория по поводу возможностей искусственного интеллекта (ИИ) в последнее время сменилась опасениями негативных последствий использования новых цифровых технологий. Причем проблема стала настолько серьезной, что российское правительство даже задумало масштабную PR-кампанию для улучшения имиджа искусственного интеллекта. На самом деле проблему доверия к ИИ можно решить, только если честно и открыто обсуждать как его достоинства, так и угрозы.
Возможные негативные эффекты распространения ИИ можно грубо разделить на три категории:
- риски, связанные со сбором данных;
- негативное воздействие на рынок труда;
- создание проблем для общения людей и их гражданской активности.
ИИ против потребителя
Первая группа рисков связана с тем, что системы ИИ требуют для своей работы больших объемов данных, поэтому и госорганы, и частные компании все активнее собирают детальную информацию о пользователях, покупателях и гражданах. Такая практика может иметь целый ряд нежелательных последствий. Во-первых, это нарушение приватности. Компании и цифровые платформы могут собирать лишнюю информацию о поведении отдельных клиентов, что позволит им использовать ценовую дискриминацию или вторгаться в частную жизнь граждан.
Во-вторых, обладание большими объемами данных становится конкурентным преимуществом крупных фирм и платформ. Это не только дает им дополнительную возможность извлекать прибыль из потребителей, но и подавляет конкуренцию со стороны менее крупных, но потенциально более эффективных компаний. В-третьих, детальная информация о поведении клиентов и передовые технологии ИИ позволяют эксплуатировать психологические уязвимости клиентов, о которых те даже и не догадываются. Так, глава Netflix Рид Хастингс открыто признавался, что одним из основных конкурентов является