ИИ обладают предсказательной способностью, но не могут заглянуть на шаг вперед

ForbesHi-Tech

Самоуверенный алгоритм: какие риски внедрения ИИ пока недооцениваются

Иван Стельмах

Фото Axel Heimken / picture alliance via Getty Images

Главную проблему алгоритмов ИИ можно сформулировать как парадокс: они обладают мощной предсказательной способностью, но при этом не в состоянии заглянуть хотя бы на шаг вперед. Чтобы не стать жертвой ошибочных решений, которые предлагает ИИ, в его разработке должны участвовать не только математики, но и менеджеры, социологи и экономисты, считает профессор РЭШ Иван Стельмах.

За громкими спорами о достижении «точки сингулярности» искусственного интеллекта (ИИ) и необходимости запрета дальнейшего развития технологии теряются менее хайповые, но более важные риски. Если разобраться в том, как работает ИИ, часть опасений сойдет на нет: и по поводу восстания машин, и по поводу того, что нейросети уже завтра заменят всех в офисе. Однако мы обнаружим другие риски, которые могут оказать влияние на нашу жизнь уже сейчас. Поговорим об актуальных рисках ИИ и о том, как ученые, бизнес и общество могут совместно работать над безопасной социальной адаптацией искусственного интеллекта.

Реакция системы

За последние годы ИИ как продукт сделал огромный скачок — при общении с ChatGPT сложно поверить, что алгоритм по ту сторону экрана основывается исключительно на статистических закономерностях. При этом основная парадигма остается неизменной: большинство алгоритмов работают по принципу, который состоит из двух шагов:

  • Шаг 1. Нахождение статистических паттернов в исторических данных
  • Шаг 2. Применение найденных паттернов на новых данных

Рассмотрим простой пример — платформу видео-хостинга. Алгоритмы могут проанализировать историю просмотров всех пользователей (Шаг 1) и сделать персонализированные предсказания о том, какое видео понравится каждому пользователю (Шаг 2).

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Иероглифы и сбоку бантик: как продвигать франшизу на этапе открытия Иероглифы и сбоку бантик: как продвигать франшизу на этапе открытия

Как новому сервису, заведению или магазину со старта громко заявить о себе?

Forbes
Видео с полицейским снизило риск неосторожного обращения с оружием среди детей Видео с полицейским снизило риск неосторожного обращения с оружием среди детей

Инструктаж снижает риск неосторожного обращения с оружием у детей

N+1
Ученые превратили тараканов в киборгов, наделив их способностями для спасательных операций Ученые превратили тараканов в киборгов, наделив их способностями для спасательных операций

Тараканы-киборги — идеальные помощники для спасательных операций

Inc.
Прийти в сознание. Научные споры об устройстве мозга и свободе воли Прийти в сознание. Научные споры об устройстве мозга и свободе воли

Как работает наше сознание?

СНОБ
Два месяца под землей без света и общения с людьми: эксперимент Мишеля Сифра Два месяца под землей без света и общения с людьми: эксперимент Мишеля Сифра

Как проходил эксперимент Мишеля Сифра и к каким он пришел выводам

ТехИнсайдер
Дочери голливудских актеров, которые пошли в модели - Депп, Бейл, Лоу и другие Дочери голливудских актеров, которые пошли в модели - Депп, Бейл, Лоу и другие

Дочери голливудских актеров тоже стремятся стать моделями

VOICE
Тепловое зрение HADAR рассмотрит текстуру предметов даже ночью Тепловое зрение HADAR рассмотрит текстуру предметов даже ночью

Ученые разработали технологию пассивного теплового зрения HADAR

N+1
Действительно сильные женщины: как японки борются за право заниматься сумо Действительно сильные женщины: как японки борются за право заниматься сумо

Японки практиковали сумо в древности, и сегодня отстаивают свое право на него

Forbes
Комедия случая: Эльдар Рязанов — режиссер, который не стал моряком Комедия случая: Эльдар Рязанов — режиссер, который не стал моряком

О гении советской комедии Эльдаре Рязанове

СНОБ
Выдра в США терроризирует серферов и ворует их доски. Ее могут усыпить! Выдра в США терроризирует серферов и ворует их доски. Ее могут усыпить!

Морская выдра в США крадет доски у серферов

ТехИнсайдер
Перестаньте выбрасывать фисташковую скорлупу: 5 гениальных идей, как использовать ее в быту Перестаньте выбрасывать фисташковую скорлупу: 5 гениальных идей, как использовать ее в быту

Фисташковая скорлупа может пригодиться вам в доме и на даче!

ТехИнсайдер
Заклинатели роботов: какие профессии создал ИИ и кто на этом зарабатывает Заклинатели роботов: какие профессии создал ИИ и кто на этом зарабатывает

Что за люди «работают на роботов» и какие навыки от них требуются?

Forbes
Стивен в стране кошмаров: 20 лучших экранизаций короля ужасов Стивена Кинга Стивен в стране кошмаров: 20 лучших экранизаций короля ужасов Стивена Кинга

Для поклонников Стивена Кинга собрали 20 его экранизаций

Правила жизни
В Гималаях нашли капли древнего океана, которым 600 миллионов лет В Гималаях нашли капли древнего океана, которым 600 миллионов лет

Ученые из обнаружили капли воды, запертые в минеральных отложениях 600 млн. лет

ТехИнсайдер
Шкала пригодности: 3 способа понять, правильный ли человек рядом с вами Шкала пригодности: 3 способа понять, правильный ли человек рядом с вами

Поиск единственного и неповторимого может занять много времени. Что же делать?

Psychologies
Директор Музеев Московского Кремля о новом здании, туристах и отношениях с властью Директор Музеев Московского Кремля о новом здании, туристах и отношениях с властью

Почему музейное оборудование невозможно импортозаместить

Forbes
7 лайфхаков, чтобы не отравиться грибами 7 лайфхаков, чтобы не отравиться грибами

Правила, которые помогут после ужина с грибами не отправиться в больницу

Maxim
Аборигенно модифицированное искусство Аборигенно модифицированное искусство

Дамир Муратов: идентичность и айдентика Сибири

Weekend
Мио-инозитол из грудного молока поспособствовал развитию мозга Мио-инозитол из грудного молока поспособствовал развитию мозга

Грудное молоко поспособствовало развитию мозга

N+1
«Дневник обезьянки». Отрывок из книги Джейн Биркин «Дневник обезьянки». Отрывок из книги Джейн Биркин

Актриса и певица Джейн Биркин о жизни и учебе в Париже, искусстве и Эдит Пиаф

СНОБ
ФНС разъяснила порядок автоматических списаний налогов с граждан ФНС разъяснила порядок автоматических списаний налогов с граждан

ФНС реализует новый механизм — «проактивный порядок уплаты налогов»

Forbes
Убывающий субъект: почему Курганская область теряет население Убывающий субъект: почему Курганская область теряет население

Чем занимаются курганские предприниматели и какое у них будущее?

Forbes
Защита от хакеров: как устроена антифрод система и можно ли ее обмануть Защита от хакеров: как устроена антифрод система и можно ли ее обмануть

Как устроены и кого защищают антифрод-системы?

ТехИнсайдер
Жены известных людей, о которых никто ничего не знает Жены известных людей, о которых никто ничего не знает

Многие знаменитости женаты на обычных людях, не имеющих отношения к шоу-бизнесу

Maxim
Деньги на бороде: почему барбершопов открывается больше, чем салонов красоты Деньги на бороде: почему барбершопов открывается больше, чем салонов красоты

Почему сегмент барбершопов так быстро растет?

Forbes
Хореограф Павел Глухов о работе над постановкой «Дуо» с Дианой Вишневой и Дарьей Павленко Хореограф Павел Глухов о работе над постановкой «Дуо» с Дианой Вишневой и Дарьей Павленко

Хореограф Павел Глухов рассказал — об особенностях общения с прима-балеринами

СНОБ
Самая молодая последовательница Мэнсона выходит из тюрьмы: кто такая Лесли Ван Хутен Самая молодая последовательница Мэнсона выходит из тюрьмы: кто такая Лесли Ван Хутен

Рассказываем историю Ван Хутен, Мэнсона и коммуны «Семья»

Forbes
«История пиратства: от викингов до наших дней» «История пиратства: от викингов до наших дней»

Почему морские разбойники до сих пор существуют

N+1
Птицы построили гнезда из противоптичьих шипов Птицы построили гнезда из противоптичьих шипов

Необычный материал для гнезд использовали сороки и черные вороны

N+1
Квантовые компьютеры Квантовые компьютеры

Квантовые компьютеры: как они появились и как устроены сейчас

Наука и жизнь
Открыть в приложении