Нередко ИИ находит то, чего на самом деле нет

ТехИнсайдерHi-Tech

Как ИИ делает ошибки и обманывает исследователей

Владимир Губайловский

bf2f09f215599e14ae8aa4dba9890fd5_ce_1800x1198x0x73.jpg
DeepMind @deepmind. Unsplash

Специалисты по Computer Science из Принстонского университета опубликовали исследование, в котором они показали, что использование ИИ часто приводит к ошибкам, которые крайне трудно отыскать. Очень многие работы в самых разных областях науки используют некорректные данные для обучения сетей. Это приводит к ложным предсказаниям. Особенно опасны такие ошибки в медицинских приложениях.

Сегодня методы ИИ и особенно нейросети используются в самых разных областях науки - от исследований генома до регистрации быстрых всплесков в астрономии. Нейросети очень популярны. Они где-то на самой вершине хайпа среди всех научных методов. Ученый, который их не использует, кажется ретроградом, а тот кто активно использует - современным продвинутым специалистом.

Но нейросети были разработаны для решения довольно ограниченного круга задач (в первую очередь задач распознавания образов). Отцы-основатели этого метода были серьезными людьми, и хорошо знали как нейросетями правильно пользоваться.

А когда нейросети стали использовать ученые очень далекие по своей специализации от Computer Science, возникли невоспроизводимые результаты, которые невозможно повторить, и невероятные предсказания, которые попросту ложны.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Чекисты против английской разведки Чекисты против английской разведки

Английский разведчик Поль Дюкс

Дилетант
«Каменный цветок» среднерусских лесов «Каменный цветок» среднерусских лесов

Молодило русское и молодило шароносное — «спартанцы» растительного мира

Наука и жизнь
Мауро Колагреко: «Исследуйте землю» Мауро Колагреко: «Исследуйте землю»

Разговор с шеф-поваром, собравшим три звезды Michelin

Bones
Новые русские миллионеры Новые русские миллионеры

Новые русские миллионеры — что это за люди и как они вошли в новую реальность

Правила жизни
Здесь и сейчас Здесь и сейчас

Локальность и сезонность — гастрономический тренд

Bones
Вы точно такого не знали: 5 русских слов, значение которых со временем Вы точно такого не знали: 5 русских слов, значение которых со временем

Слова, которые есть в современном языке, раньше имели совершенно другой смысл

ТехИнсайдер
«Наконец моя внешность догнала мой внутренний возраст» «Наконец моя внешность догнала мой внутренний возраст»

Нино Нинидзе уже давно не пытается никому ничего доказать

OK!
X, Y и сексизм в науке X, Y и сексизм в науке

Как все устроить, чтобы мальчиков и девочек рождалось поровну

СНОБ
6 ингредиентов, которые мы не ожидали в увидеть в бьюти-средствах 6 ингредиентов, которые мы не ожидали в увидеть в бьюти-средствах

Рыбья чешуя, чайный гриб… Что еще можно встретить в твоей ванной комнате?

Лиза
Олли Дабу: «Гости — это люди, которые кладут деньги в твой карман» Олли Дабу: «Гости — это люди, которые кладут деньги в твой карман»

Олли Дабу — о карантине, детском питании и гиде Michelin

Bones
Брэд Питт диагностировал у себя прозопагнозию: что это значит? Брэд Питт диагностировал у себя прозопагнозию: что это значит?

Как прозопагнозия осложняет жизнь людям?

Psychologies
5 мемуаров и биографий звезд музыкальной сцены, достойных прочтения 5 мемуаров и биографий звезд музыкальной сцены, достойных прочтения

Подборка книг, которые рассказывают правду о выдающихся рок-музыкантах XX века

СНОБ
«Мне ломали нос, были сотрясения мозга»: Алена Ашмарина заявила о насилии бывшего мужа «Мне ломали нос, были сотрясения мозга»: Алена Ашмарина заявила о насилии бывшего мужа

Алена Ашмарина рассказала о пережитом насилии

VOICE
Александр Иншаков: Александр Иншаков:

Я на его глазах выбил ногой сигарету изо рта партнера

Караван историй
Это слишком: из-за какой черты Ленин требовал сместить Сталина с поста генсека Это слишком: из-за какой черты Ленин требовал сместить Сталина с поста генсека

О чем написал Владимир Ленин в своих последних заметках?

VOICE
Планетологи нашли в древней истории Марса взрывное извержение кислой магмы Планетологи нашли в древней истории Марса взрывное извержение кислой магмы

Ученые промоделировали образование комплекса минералов, найденного марсоходом

N+1
Ресторатор Уиллиам Ламберти — о новом старте после 50 и семейных рецептах Ресторатор Уиллиам Ламберти — о новом старте после 50 и семейных рецептах

Ресторатор Уиллиам Ламберти — как добиться успеха, несмотря на закрытия проектов

РБК
Как почувствовать себя лучше в кризис: 6 шагов Как почувствовать себя лучше в кризис: 6 шагов

Во времена испытаний ярче проявляются наши особенности, характерные черты

Psychologies
Откуда в марсианском кратере редкий минерал: любопытная теория Откуда в марсианском кратере редкий минерал: любопытная теория

Марсоход Curiosity наткнулся на Марсе на весьма необычную находку

ТехИнсайдер
Что такое циркулярная ссора Что такое циркулярная ссора

Иногда ссора происходит по циркулярному принципу. Что это значит?

Psychologies
Как американская бюрократия уничтожила автомобиль будущего: история Tucker 48 Как американская бюрократия уничтожила автомобиль будущего: история Tucker 48

Бывают люди, у которых даже неудачные проекты выглядят вдохновляющие

Maxim
Палеонтологи описали последнюю гигантскую черепаху Европы. Она жила на Сицилии 12,5 тысячи лет назад Палеонтологи описали последнюю гигантскую черепаху Европы. Она жила на Сицилии 12,5 тысячи лет назад

Палеонтологи обнаружили на Сицилии кости последней гигантской черепахи Европы

N+1
Возможна ли копия автопортрета? Отрывок из книги «Предприятие Рембрандта» Возможна ли копия автопортрета? Отрывок из книги «Предприятие Рембрандта»

Отрывок из книги Светланы Алперс б отношениях Рембрандта с миром коммерции

РБК
Рецепт этой древней ткани давно утрачен. Даже ученые не знают, как ее изготовить Рецепт этой древней ткани давно утрачен. Даже ученые не знают, как ее изготовить

Даккский муслин был настолько легким, что многие верили, что его соткали русалки

ТехИнсайдер
Королева марсианского рок-н-ролла: Жанне Агузаровой — 60 лет Королева марсианского рок-н-ролла: Жанне Агузаровой — 60 лет

Жанна Агузарова — девушка из Сибири, ставшая звездой рок-сцены

Правила жизни
Иван Шевченко: «Учиться на ошибках не зазорно» Иван Шевченко: «Учиться на ошибках не зазорно»

Пекарня при ресторане — деталь, которая указывает на уровень заведения

Bones
Маньяк, который изображал безумие, а потом действительно сошел с ума: история Игоря Иртышова Маньяк, который изображал безумие, а потом действительно сошел с ума: история Игоря Иртышова

На опознаниях мужчины и женщины хотели наказать преступника, не дожидаясь суда

VOICE

Бесценные рукописи и архивы с редкими фактами о жизни актера Петра Вельяминова

Коллекция. Караван историй
Ослиное упрямство как способ выживания: 8 удивительных фактов об ослице Люсе из Ослиное упрямство как способ выживания: 8 удивительных фактов об ослице Люсе из

Ослы куда умнее своих сородичей

ТехИнсайдер
Как научиться быть благодарным: 3 шага Как научиться быть благодарным: 3 шага

Как научиться быть благодарным себе, окружающим и миру даже в трудные времена?

Psychologies
Открыть в приложении