Нередко ИИ находит то, чего на самом деле нет

ТехИнсайдерHi-Tech

Как ИИ делает ошибки и обманывает исследователей

Владимир Губайловский

bf2f09f215599e14ae8aa4dba9890fd5_ce_1800x1198x0x73.jpg
DeepMind @deepmind. Unsplash

Специалисты по Computer Science из Принстонского университета опубликовали исследование, в котором они показали, что использование ИИ часто приводит к ошибкам, которые крайне трудно отыскать. Очень многие работы в самых разных областях науки используют некорректные данные для обучения сетей. Это приводит к ложным предсказаниям. Особенно опасны такие ошибки в медицинских приложениях.

Сегодня методы ИИ и особенно нейросети используются в самых разных областях науки - от исследований генома до регистрации быстрых всплесков в астрономии. Нейросети очень популярны. Они где-то на самой вершине хайпа среди всех научных методов. Ученый, который их не использует, кажется ретроградом, а тот кто активно использует - современным продвинутым специалистом.

Но нейросети были разработаны для решения довольно ограниченного круга задач (в первую очередь задач распознавания образов). Отцы-основатели этого метода были серьезными людьми, и хорошо знали как нейросетями правильно пользоваться.

А когда нейросети стали использовать ученые очень далекие по своей специализации от Computer Science, возникли невоспроизводимые результаты, которые невозможно повторить, и невероятные предсказания, которые попросту ложны.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

10 мультфильмов, которые можно смотреть с ребенком на английском 10 мультфильмов, которые можно смотреть с ребенком на английском

Мультфильмы студии Pixar, которые интересно смотреть на английском

Psychologies
Летние коктейли для жарких дней, вечерних прогулок и борьбы с похмельем Летние коктейли для жарких дней, вечерних прогулок и борьбы с похмельем

Московские бармены делятся рецептами летних коктейлей, которые спасут от жары

СНОБ
Нейросеть определила видовую принадлежность прихлопнутых комаров Нейросеть определила видовую принадлежность прихлопнутых комаров

Создан алгоритм, который определяет видовую принадлежность прихлопнутого комара

N+1
Депозиты для жадных: почему индустрия криптозаймов пришла к краху Депозиты для жадных: почему индустрия криптозаймов пришла к краху

Что произошло с криптолендинговой индустрией?

Forbes
В двух сантиметрах от позора: Бейонсе, Дафф, Спирс и другие звезды, которые не умеют носить мини В двух сантиметрах от позора: Бейонсе, Дафф, Спирс и другие звезды, которые не умеют носить мини

Как не стать жертвой модного провала, надев мини?

VOICE
Не только слушать, но и слышать: как и зачем развивать эмпатию Не только слушать, но и слышать: как и зачем развивать эмпатию

Эмпатия — способность понимать чужие эмоции, чувства и потребности

Forbes
Встряхнём старину: 4 совета, которые помогут вернуть страсть в отношения Встряхнём старину: 4 совета, которые помогут вернуть страсть в отношения

Отношения уж слишком устоялись, и хочется сделать их более интригующими?

VOICE
5 неочевидных врагов идеальной улыбки 5 неочевидных врагов идеальной улыбки

Коктейли, каркаде, семечки — что еще может испортить твою улыбку?

Лиза
Кожа и стресс: волнительный момент Кожа и стресс: волнительный момент

Хронический стресс пагубно сказывается на коже, но как ей помочь?

Лиза
Что считать изменой: 7 распространенных поводов для ревности Что считать изменой: 7 распространенных поводов для ревности

Психологи разобрали распространенные варианты измен

Psychologies
Добро пожаловать в петлю: краткая история смертной казни Добро пожаловать в петлю: краткая история смертной казни

Как менялись способы исполнения смертного приговора с древних времен по наши дни

Правила жизни
Одна вокруг света: оазис и таинственные знаки в пустыне Одна вокруг света: оазис и таинственные знаки в пустыне

178-я серия о кругосветном путешествии москвички Ирины Сидоренко и ее собаки

Forbes
Как почувствовать себя лучше в кризис: 6 шагов Как почувствовать себя лучше в кризис: 6 шагов

Во времена испытаний ярче проявляются наши особенности, характерные черты

Psychologies
Шизофрения: как жить с таким диагнозом и опасно ли заболевание для окружающих Шизофрения: как жить с таким диагнозом и опасно ли заболевание для окружающих

Что такое шизофрения с медицинской точки зрения и как она лечится?

Psychologies
Что родители чаще всего спрашивают у детских психологов: топ-3 вопросов Что родители чаще всего спрашивают у детских психологов: топ-3 вопросов

С какими популярными вопросами родители приходят к детским психологам

Psychologies
«Прикольно, когда можешь нанять топ-менеджера, находясь в СИЗО»: Сергей Фаге о тюрьме, «инсайтах» после неё и биохакинге «Прикольно, когда можешь нанять топ-менеджера, находясь в СИЗО»: Сергей Фаге о тюрьме, «инсайтах» после неё и биохакинге

Как СИЗО помог предпринимателю научиться делегировать и справляться со стрессом

VC.RU
Он прошел через 872 дня блокады Ленинграда и выжил: удивительная история кота Максима Он прошел через 872 дня блокады Ленинграда и выжил: удивительная история кота Максима

Как кот по кличке Максим из блокадного Ленинграда смог дожить до окончания вoйны

ТехИнсайдер
X, Y и сексизм в науке X, Y и сексизм в науке

Как все устроить, чтобы мальчиков и девочек рождалось поровну

СНОБ
Зоологи обнаружили рекордные скопления финвалов у берегов Антарктического полуострова Зоологи обнаружили рекордные скопления финвалов у берегов Антарктического полуострова

Численность финвалов, которых почти истребили в XX в., начала восстанавливаться

N+1
«Бабушка-Чикатило»: история Тамары Самсоновой, которая вышла на пенсию и начала убивать «Бабушка-Чикатило»: история Тамары Самсоновой, которая вышла на пенсию и начала убивать

«Старушка-потрошительница» — так называли эту серийную убийцу

VOICE
Почему так популярны теории заговора? Они доставляют сторонникам приятные эмоции Почему так популярны теории заговора? Они доставляют сторонникам приятные эмоции

Несмотря на все научные опровержения, теории заговора по-прежнему популярны

ТехИнсайдер
Дом под снос Дом под снос

Некоторые из самых интересных архитектурных проектов Японии долго не проживут

Robb Report
Как распознать признаки обострения психического расстройства Как распознать признаки обострения психического расстройства

Чек-лист: как опознать психическое расстройство

Psychologies
Первого австралийского грифа описали по найденной почти 120 лет назад кости Первого австралийского грифа описали по найденной почти 120 лет назад кости

Гриф жил в Австралии в плейстоцене и питался тушами ныне вымершей мегафауны

N+1
«Ты что тут делаешь, девочка?»: как женщины строят карьеру в «мужских» профессиях «Ты что тут делаешь, девочка?»: как женщины строят карьеру в «мужских» профессиях

Женщины испытывают большие сложности в профессиях, которые считаются «мужскими»

Forbes
«У него были красотки Лорак и Стоцкая»: домработница Киркорова рассказала, почему он не женился «У него были красотки Лорак и Стоцкая»: домработница Киркорова рассказала, почему он не женился

Почему Филипп Киркоров больше не женился после развода с Аллой Пугачёвой?

VOICE
Как жить дальше после расставания: 3 совета Как жить дальше после расставания: 3 совета

Что мешает нашему разбитому сердцу исцелиться?

Psychologies
«Пьеса Толстого спустя три четверти века все еще опасна»: как меняется театр сегодня «Пьеса Толстого спустя три четверти века все еще опасна»: как меняется театр сегодня

Зачем Софья Толстая каждый день подробно записывала, что ели в Ясной Поляне

Forbes
Расслабиться по-настоящему: 7 необходимых типов отдыха Расслабиться по-настоящему: 7 необходимых типов отдыха

Для того, чтобы чувствовать себя отдохнувшими, нам нужны разные виды отдыха

Psychologies
Портрет на фоне Галактики Портрет на фоне Галактики

Чёрные дыры – самое смелое предсказание общей теории относительности Эйнштейна

Наука и жизнь
Открыть в приложении