Нередко ИИ находит то, чего на самом деле нет

ТехИнсайдерHi-Tech

Как ИИ делает ошибки и обманывает исследователей

Владимир Губайловский

bf2f09f215599e14ae8aa4dba9890fd5_ce_1800x1198x0x73.jpg
DeepMind @deepmind. Unsplash

Специалисты по Computer Science из Принстонского университета опубликовали исследование, в котором они показали, что использование ИИ часто приводит к ошибкам, которые крайне трудно отыскать. Очень многие работы в самых разных областях науки используют некорректные данные для обучения сетей. Это приводит к ложным предсказаниям. Особенно опасны такие ошибки в медицинских приложениях.

Сегодня методы ИИ и особенно нейросети используются в самых разных областях науки - от исследований генома до регистрации быстрых всплесков в астрономии. Нейросети очень популярны. Они где-то на самой вершине хайпа среди всех научных методов. Ученый, который их не использует, кажется ретроградом, а тот кто активно использует - современным продвинутым специалистом.

Но нейросети были разработаны для решения довольно ограниченного круга задач (в первую очередь задач распознавания образов). Отцы-основатели этого метода были серьезными людьми, и хорошо знали как нейросетями правильно пользоваться.

А когда нейросети стали использовать ученые очень далекие по своей специализации от Computer Science, возникли невоспроизводимые результаты, которые невозможно повторить, и невероятные предсказания, которые попросту ложны.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Спорт против улицы Спорт против улицы

Как «подсадить» ребенка на спорт

Русский репортер
На Западе об этой советской игре ходили легенды. Почему американцы считали На Западе об этой советской игре ходили легенды. Почему американцы считали

Популярная игра, созданная в СССР, в свое время стала настоящим хитом на Западе

ТехИнсайдер
Эффект Розенталя: как чужие ожидания формируют наше реальное поведение Эффект Розенталя: как чужие ожидания формируют наше реальное поведение

Как работает эффект Розенталя и к каким последствиям он может привести?

Forbes
Политическая дерзость или умственная болезнь? Отрывок из книги о Петре Чаадаеве Политическая дерзость или умственная болезнь? Отрывок из книги о Петре Чаадаеве

Как «чаадаевское дело» помогает понять происходившее в России в начале XIX века

СНОБ
Шрамы украшают динозавров: палеонтологи рассмотрели у древних ящеров пупок Шрамы украшают динозавров: палеонтологи рассмотрели у древних ящеров пупок

Пситаккозавра просветили лазером

Вокруг света
История русской княгини Марии Тенишевой, которая дружила с Репиным и Тургеневым и открывала культурные центры История русской княгини Марии Тенишевой, которая дружила с Репиным и Тургеневым и открывала культурные центры

Русская княгиня Мария Тенишева: меценат, коллекционер, художник

Правила жизни
Перейти Зону Перейти Зону

«Сталкер» как пример отношений художника и власти

Weekend
Олени погрызли кости морских черепах Олени погрызли кости морских черепах

Как травоядные восполняют нехватку минеральных веществ?

N+1
Алло, вас грабят! Алло, вас грабят!

5 новых схем финансового мошенничества

Лиза
7 знаковых стихотворений Евгения Евтушенко 7 знаковых стихотворений Евгения Евтушенко

Семь знаковых стихотворений, привязанных к биографии поэта Евгения Евтушенко

Правила жизни
3ачем Том Круз висел в гримерке вверх ногами и другие сумасшедшие факты о его фильмах 3ачем Том Круз висел в гримерке вверх ногами и другие сумасшедшие факты о его фильмах

Самые безумные откровения из актерской карьеры Тома Круза

Maxim
Каким был день смерти принцессы Дианы: о чем она думала, что делала и кого видела последним Каким был день смерти принцессы Дианы: о чем она думала, что делала и кого видела последним

Принцесса Диана была одной из самых известных. Каким был ее последний день?

VOICE
Infiniti QX55. Отличный автомобиль с проблемами в имидже Infiniti QX55. Отличный автомобиль с проблемами в имидже

Рестайлинговый Infiniti QX55 — неужели это безупречный автомобиль?

4x4 Club
Лечит природа Лечит природа

Что нужно учесть, прибегая к помощи трав?

Лиза
Засуха как обычное явление Засуха как обычное явление

Как отечественные аграрии справляются с погодными аномалиями

Агроинвестор
Широка страна моя родная: какой ты русский город по знаку зодиака? Широка страна моя родная: какой ты русский город по знаку зодиака?

Какой ты русский город по гороскопу?

VOICE
Близкий пропал без вести: как справиться с болью и неизвестностью Близкий пропал без вести: как справиться с болью и неизвестностью

Как помочь себе, если ваш близкий пропал?

Psychologies
Бесплатный сыр — только в мышеловке: как понять, что вами манипулируют в магазинах Бесплатный сыр — только в мышеловке: как понять, что вами манипулируют в магазинах

Как работает импульсивный шопинг и что его провоцирует

Psychologies
Зачем в СССР создавали грандиозные дворцы питания, и почему они исчезли Зачем в СССР создавали грандиозные дворцы питания, и почему они исчезли

Фабрики-кухни, которые начали строить в СССР, быстро окрестили дворцами питания

VOICE
Рейтинги падают, возраст берет своё: что стало с Элен и Николя из культового французского сериала для подростков Рейтинги падают, возраст берет своё: что стало с Элен и Николя из культового французского сериала для подростков

Как сейчас выглядят и чем заняты Элен и Николя из сериала «Элен и ребята»

VOICE
Одна вокруг света: озеро Титикака и город богов Одна вокруг света: озеро Титикака и город богов

179-я серия о кругосветном путешествии москвички Ирины Сидоренко: Перу

Forbes
В Оксфордском словаре появились местоимения для обозначения разных гендеров: 20 удивительных фактов об английском языке В Оксфордском словаре появились местоимения для обозначения разных гендеров: 20 удивительных фактов об английском языке

20 необычных фактах об английском языке, которые вы никогда не слышали

ТехИнсайдер
13 полезных продуктов, в которых много цинка 13 полезных продуктов, в которых много цинка

Дефицит цинка может привести к выпадению волос и другим проблемам со здоровьем

Лиза
«Живое всегда найдет способ прорасти»: что будет с российским независимым театром «Живое всегда найдет способ прорасти»: что будет с российским независимым театром

Пять российских режиссеров — о том, что ждет российский независимый театр

Forbes
«Тембот»: авторское кино о том, как взрослеть без отца на Северном Кавказе «Тембот»: авторское кино о том, как взрослеть без отца на Северном Кавказе

«Тембот»: как исследование человеческого одиночества высветило травму поколения

Forbes
Как вести строительный бизнес, когда твои конкуренты «Леруа Мерлен» и «Петрович»: история интернет-магазина «Кузьмич24» Как вести строительный бизнес, когда твои конкуренты «Леруа Мерлен» и «Петрович»: история интернет-магазина «Кузьмич24»

«Кузьмич24»: как из простого офлайн-магазина получился мощный онлайн-бренд

VC.RU
Как Рания, самая красивая королева, выглядела до пластики и свадьбы с принцем Как Рания, самая красивая королева, выглядела до пластики и свадьбы с принцем

Как королева Иордании получила свою внешность?

VOICE
Нина Берия — комендант семейной крепости Нина Берия — комендант семейной крепости

Да, она была очень красивая женщина, а юной девушкой — можно себе представить!

Дилетант
Шамиль Идиатуллин: «Возвращение “Пионера”». Фантастический роман о советских школьниках в 2021 году Шамиль Идиатуллин: «Возвращение “Пионера”». Фантастический роман о советских школьниках в 2021 году

Отрывок из «Возвращение “Пионера”» — истории о том, что нет ничего невозможного

СНОБ
Мороки Италии Мороки Италии

«Венецияфрения»: туристический хоррор с киноцитатами

Weekend
Открыть в приложении