Нередко ИИ находит то, чего на самом деле нет

ТехИнсайдерHi-Tech

Как ИИ делает ошибки и обманывает исследователей

Владимир Губайловский

bf2f09f215599e14ae8aa4dba9890fd5_ce_1800x1198x0x73.jpg
DeepMind @deepmind. Unsplash

Специалисты по Computer Science из Принстонского университета опубликовали исследование, в котором они показали, что использование ИИ часто приводит к ошибкам, которые крайне трудно отыскать. Очень многие работы в самых разных областях науки используют некорректные данные для обучения сетей. Это приводит к ложным предсказаниям. Особенно опасны такие ошибки в медицинских приложениях.

Сегодня методы ИИ и особенно нейросети используются в самых разных областях науки - от исследований генома до регистрации быстрых всплесков в астрономии. Нейросети очень популярны. Они где-то на самой вершине хайпа среди всех научных методов. Ученый, который их не использует, кажется ретроградом, а тот кто активно использует - современным продвинутым специалистом.

Но нейросети были разработаны для решения довольно ограниченного круга задач (в первую очередь задач распознавания образов). Отцы-основатели этого метода были серьезными людьми, и хорошо знали как нейросетями правильно пользоваться.

А когда нейросети стали использовать ученые очень далекие по своей специализации от Computer Science, возникли невоспроизводимые результаты, которые невозможно повторить, и невероятные предсказания, которые попросту ложны.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как изучение английского поможет развить креативность Как изучение английского поможет развить креативность

Изучение иностранного языка повышает скорость и гибкость мышления

Psychologies
Как убрать пятна от пота и дезодоранта с одежды: 5 простых способов Как убрать пятна от пота и дезодоранта с одежды: 5 простых способов

Какие средства могут устранить белые пятна от дезодоранта?

ТехИнсайдер
Как и что говорить, чтобы покорить его на первом свидании? Советы, которые работают Как и что говорить, чтобы покорить его на первом свидании? Советы, которые работают

Как сделать так, чтобы он точно перезвонил? Рассказываем

VOICE
За небольшие по мировым меркам деньги у вас может быть большой дом с садом, шофёр, повар и домработница: жизнь в Гане За небольшие по мировым меркам деньги у вас может быть большой дом с садом, шофёр, повар и домработница: жизнь в Гане

Гана: как тут дела с жильем, едой, зарплатами и всем остальным

VC.RU
Лечит природа Лечит природа

Что нужно учесть, прибегая к помощи трав?

Лиза
7 мест на планете, где акула — реальная опасность 7 мест на планете, где акула — реальная опасность

У всех ли берегов стоит опасаться этих хищников?

ТехИнсайдер
Кто такие подонки, и какую грамоту получил Филька? 10 крылатых выражений и их происхождение Кто такие подонки, и какую грамоту получил Филька? 10 крылатых выражений и их происхождение

Докопаемся до сути и разберемся с десятью крылатыми выражениями

ТехИнсайдер
Лучшие книги для детей: приключения, волшебство и истории о первой любви Лучшие книги для детей: приключения, волшебство и истории о первой любви

Представляем книги для детей, читать которые сплошное удовольствие

VOICE
Help! SOS! Help! SOS!

Что делать, если ребенок просит тебя забрать его из лагеря

Лиза
8 нон-фикшн-книг, которые важно прочесть до 35 лет 8 нон-фикшн-книг, которые важно прочесть до 35 лет

Мотивационные бестселлеры, которые необходимо прочесть до 35 лет

СНОБ
Российские физики из ФИАН «сварили» бактерии лазером Российские физики из ФИАН «сварили» бактерии лазером

Ученым из Физического института РАН удалось «сварить» патогенные бактерии

ТехИнсайдер
Владыки морей: какими были самые известные пиратские корабли Владыки морей: какими были самые известные пиратские корабли

Лучшие и самые известные пиратские корабли

ТехИнсайдер
Сад для ленивых Сад для ленивых

Как облегчить работу на даче? Посадить многолетники!

Лиза
5 неявных привычек, убивающих женственность день за днем 5 неявных привычек, убивающих женственность день за днем

Проверь, нет ли у тебя привычек, из-за которых можно перестать быть желанной

Лиза
Работа на больничном и еще 5 привычек, из-за которых мы глупеем Работа на больничном и еще 5 привычек, из-за которых мы глупеем

Если вам кажется, что ваши родители в вашем возрасте были умнее, вам не кажется

Psychologies
X, Y и сексизм в науке X, Y и сексизм в науке

Как все устроить, чтобы мальчиков и девочек рождалось поровну

СНОБ
5 животных, которых мы считаем безобидными, но их стоит бояться 5 животных, которых мы считаем безобидными, но их стоит бояться

Безобидные существа, от которых на самом деле стоит держаться подальше

ТехИнсайдер
Как распознать неверного партнера: 3 признака Как распознать неверного партнера: 3 признака

Как критически оценить потенциального партнера

Psychologies
История одного здания: усадьба Знаменское-Раёк История одного здания: усадьба Знаменское-Раёк

Усадьба Знаменское-Раёк побывала и галереей, и госпиталем и пионерлагерем

Культура.РФ
Координационный полимер помог разделить смесь изомерных ксилолов Координационный полимер помог разделить смесь изомерных ксилолов

Селективность адсорбции оказалась рекордной

N+1
Николай Бобров: «Мне запросто может позвонить шеф из другого ресторана и попросить рецепт» Николай Бобров: «Мне запросто может позвонить шеф из другого ресторана и попросить рецепт»

Интервью с шефом Николаем Бобровым о поиске идей, конкуренции у поваров и жизни

Bones
Здоровье в горшочках: как выбрать комнатные цветы Здоровье в горшочках: как выбрать комнатные цветы

Популярные комнатные цветы, деревца и травы, которые украсят любой дом

VOICE
Магия цифры 7: почему мы испытываем необъяснимую симпатию к семеркам Магия цифры 7: почему мы испытываем необъяснимую симпатию к семеркам

Даже те, кто равнодушен к "магии чисел", не могут противостоять обаянию цифры 7

VOICE
Кто такая Ружа Игнатова, попавшая в список самых разыскиваемых преступников Кто такая Ружа Игнатова, попавшая в список самых разыскиваемых преступников

За что основательницу OneCoin ищет ФБР?

СНОБ
Что такое циркулярная ссора Что такое циркулярная ссора

Иногда ссора происходит по циркулярному принципу. Что это значит?

Psychologies
Остановки без требований Остановки без требований

Русское современное искусство как история препинаний

Weekend
Замещение импорта и цифровизация: две стороны одного процесса Замещение импорта и цифровизация: две стороны одного процесса

Технологические решения в промышленности, коммуникациях и других отраслях

Forbes
Ресторатор Борис Зарьков: «Дальше очень просто – жизнь продолжается. Вы находитесь “здесь”» Ресторатор Борис Зарьков: «Дальше очень просто – жизнь продолжается. Вы находитесь “здесь”»

Ресторатор Борис Зарьков – пат в шахматах, уход Michelin и «голые короли

СНОБ
Краб-сафари и «охота» за китами: чем заняться в глэмпинге «Китовый берег» Краб-сафари и «охота» за китами: чем заняться в глэмпинге «Китовый берег»

Рассказываем, как устроен единственный в Заполярье круглогодичный глэмпинг

РБК
«Меня избивали руками и ногами»: Решетова заявила о насилии после «ужасного видео со свадьбы» «Меня избивали руками и ногами»: Решетова заявила о насилии после «ужасного видео со свадьбы»

Бывшая возлюбленная рэпера Тимати назвала себя жертвой бытового насилия

VOICE
Открыть в приложении