Нередко ИИ находит то, чего на самом деле нет

ТехИнсайдерHi-Tech

Как ИИ делает ошибки и обманывает исследователей

Владимир Губайловский

bf2f09f215599e14ae8aa4dba9890fd5_ce_1800x1198x0x73.jpg
DeepMind @deepmind. Unsplash

Специалисты по Computer Science из Принстонского университета опубликовали исследование, в котором они показали, что использование ИИ часто приводит к ошибкам, которые крайне трудно отыскать. Очень многие работы в самых разных областях науки используют некорректные данные для обучения сетей. Это приводит к ложным предсказаниям. Особенно опасны такие ошибки в медицинских приложениях.

Сегодня методы ИИ и особенно нейросети используются в самых разных областях науки - от исследований генома до регистрации быстрых всплесков в астрономии. Нейросети очень популярны. Они где-то на самой вершине хайпа среди всех научных методов. Ученый, который их не использует, кажется ретроградом, а тот кто активно использует - современным продвинутым специалистом.

Но нейросети были разработаны для решения довольно ограниченного круга задач (в первую очередь задач распознавания образов). Отцы-основатели этого метода были серьезными людьми, и хорошо знали как нейросетями правильно пользоваться.

А когда нейросети стали использовать ученые очень далекие по своей специализации от Computer Science, возникли невоспроизводимые результаты, которые невозможно повторить, и невероятные предсказания, которые попросту ложны.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Удалось ли пересаженной голове русского программиста обрести тело: реальная история пересадки головы живого человека Удалось ли пересаженной голове русского программиста обрести тело: реальная история пересадки головы живого человека

Первая в истории человечества пересадка головы живого человека

Популярная механика
Бей, беги, замри: как справиться с древними реакциями на стресс Бей, беги, замри: как справиться с древними реакциями на стресс

Можно ли научиться по-новому реагировать на стресс

Psychologies
Деньги на ветер: 5 популярных бьюти-процедур, вау-эффект от которых сильно преувеличен Деньги на ветер: 5 популярных бьюти-процедур, вау-эффект от которых сильно преувеличен

Бьюти-процедуры, суперэффекта от которых на самом деле ждать не стоит

VOICE
Смазанный эффект ВТО Смазанный эффект ВТО

Россия не смогла воспользоваться всеми преимуществами членства в ВТО

Агроинвестор
И тут неплохо кормят: искусственно выращенная форель оказалась полезнее дикой И тут неплохо кормят: искусственно выращенная форель оказалась полезнее дикой

Российские ученые сравнили разные виды рыб

Вокруг света
Настоящий доминант или дилетант БДСМ: 8 признаков любовника в теме Настоящий доминант или дилетант БДСМ: 8 признаков любовника в теме

Твой любовник что-то смыслит в БДСМ, если...

VOICE
Устойчивые к антибиотикам штаммы брюшного тифа распространяются из Южной Азии Устойчивые к антибиотикам штаммы брюшного тифа распространяются из Южной Азии

Брюшной тиф снова представляется опасность и может вызвать эпидемии

ТехИнсайдер
7 знаковых стихотворений Евгения Евтушенко 7 знаковых стихотворений Евгения Евтушенко

Семь знаковых стихотворений, привязанных к биографии поэта Евгения Евтушенко

Правила жизни
Зарядка аккумулятора: как это делать правильно, чтобы ничего не испортить Зарядка аккумулятора: как это делать правильно, чтобы ничего не испортить

Не спешите бежать за новым аккумулятором, если старый начал капризничать

РБК
Встряхнём старину: 4 совета, которые помогут вернуть страсть в отношения Встряхнём старину: 4 совета, которые помогут вернуть страсть в отношения

Отношения уж слишком устоялись, и хочется сделать их более интригующими?

VOICE
Запретная тема. Off-road Safety. Начало Запретная тема. Off-road Safety. Начало

Кредо энтузиастов внедорожного досуга — надейся на лучшее, готовься к худшему

4x4 Club
Палеонтологи разрешили вымершим гигантским марабу с острова Флорес летать Палеонтологи разрешили вымершим гигантским марабу с острова Флорес летать

Гигантские марабу с острова Флорес все же были способны к активному полету

N+1
Темные воды: что опасного скрывает в себе река Волга и кто в этом виноват Темные воды: что опасного скрывает в себе река Волга и кто в этом виноват

Под волнами Волги со сложным химическим составом таится немало опасностей

ТехИнсайдер
Дмитрий Нагиев: Дмитрий Нагиев:

У нас твоя карьера от таланта не зависит

Караван историй
Большой отец Большой отец

Как Олег Кулик стал символом постсоветского искусства и разделил его судьбу

Weekend
Не шашлыком единым: какие еще вкусные блюда можно приготовить на мангале? Не шашлыком единым: какие еще вкусные блюда можно приготовить на мангале?

Что еще можно приготовить на мангале, кроме шашлыка? Да почти все!

ТехИнсайдер
Время вспять: можно ли перевести стрелки биологических часов назад и замедлить старение Время вспять: можно ли перевести стрелки биологических часов назад и замедлить старение

Об интересных научных открытиях из книги «Загадка нестареющей медузы»

ТехИнсайдер
Евгений Ткачук. Мой путь Евгений Ткачук. Мой путь

Есть ощущение, что путь мой возник еще до моего рождения

Коллекция. Караван историй
Какими вырастают дети при «токсичных» мамах Какими вырастают дети при «токсичных» мамах

Кто такая токсичная мама?

Psychologies
Почему нам не нужна близость? 3 важные причины Почему нам не нужна близость? 3 важные причины

Причины, которые превращаются в знак «Стоп!» на пути к гармоничному сексу

Psychologies
Никуда не денется: 7 способов Никуда не денется: 7 способов

От некоторых женщин мужчины не уходят. В чем их секрет?

VOICE
Лучший бесплатный антивирус: наша большая подборка Лучший бесплатный антивирус: наша большая подборка

На рынке представлено немало достойных бесплатных антивирусов. Вот лучшие из них

CHIP
Кто первым связал коммунизм с электрификацией Кто первым связал коммунизм с электрификацией

Григорий Ревзин о коммивояжере, который добавил к утопии Ниагарский водопад

Weekend
В курганах ямной культуры нашли расчлененное и сидячее мужские погребения В курганах ямной культуры нашли расчлененное и сидячее мужские погребения

Археолог объяснил нестандартный ритуал погребения влиянием с Северного Кавказа

N+1
Новый эко-тренд: стартапы в США начали выпускать съедобную посуду вместо одноразовой Новый эко-тренд: стартапы в США начали выпускать съедобную посуду вместо одноразовой

Тренд на отказ от одноразовой посуды распространяется во всем мире

Inc.
Леопард в мире ящериц: в Индии открыли геккона, который использует язык как орган осязания Леопард в мире ящериц: в Индии открыли геккона, который использует язык как орган осязания

Исследователи обнаружили новый вид леопардового геккона

Вокруг света
Выбираем фитнес-браслет правильно: какие функции наиболее важны Выбираем фитнес-браслет правильно: какие функции наиболее важны

Главные функции фитнес-браслетов и их отличиях от смарт-часов

CHIP
Почему сбываются гороскопы? Объясняем с точки зрения науки (настоящей) Почему сбываются гороскопы? Объясняем с точки зрения науки (настоящей)

Что такое эффект Барнума-Форера?

Maxim
Носки и лодыжки: Брэд Питт, Вин Дизель и другие мужчины-звезды, которые роскошно выглядят в юбках Носки и лодыжки: Брэд Питт, Вин Дизель и другие мужчины-звезды, которые роскошно выглядят в юбках

Мода давно вышла за грани гендерных стереотипов

VOICE
Любимая мать и плохая жена: как «патриархальная сделка» заставляет женщин соперничать Любимая мать и плохая жена: как «патриархальная сделка» заставляет женщин соперничать

Как соперничество за мужчин мешает объединяться в борьбе за права женщин?

Forbes
Открыть в приложении