Нередко ИИ находит то, чего на самом деле нет

ТехИнсайдерHi-Tech

Как ИИ делает ошибки и обманывает исследователей

Владимир Губайловский

bf2f09f215599e14ae8aa4dba9890fd5_ce_1800x1198x0x73.jpg
DeepMind @deepmind. Unsplash

Специалисты по Computer Science из Принстонского университета опубликовали исследование, в котором они показали, что использование ИИ часто приводит к ошибкам, которые крайне трудно отыскать. Очень многие работы в самых разных областях науки используют некорректные данные для обучения сетей. Это приводит к ложным предсказаниям. Особенно опасны такие ошибки в медицинских приложениях.

Сегодня методы ИИ и особенно нейросети используются в самых разных областях науки - от исследований генома до регистрации быстрых всплесков в астрономии. Нейросети очень популярны. Они где-то на самой вершине хайпа среди всех научных методов. Ученый, который их не использует, кажется ретроградом, а тот кто активно использует - современным продвинутым специалистом.

Но нейросети были разработаны для решения довольно ограниченного круга задач (в первую очередь задач распознавания образов). Отцы-основатели этого метода были серьезными людьми, и хорошо знали как нейросетями правильно пользоваться.

А когда нейросети стали использовать ученые очень далекие по своей специализации от Computer Science, возникли невоспроизводимые результаты, которые невозможно повторить, и невероятные предсказания, которые попросту ложны.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как учит английский большинство российских школьников и к чему это может привести Как учит английский большинство российских школьников и к чему это может привести

В российских школах на обучение английскому уходит не менее семи лет

Psychologies
«Мои» неясыти «Мои» неясыти

Увидеть неясыть — большая удача!

Наука и жизнь
Добро пожаловать в суперигру Добро пожаловать в суперигру

Александра Урсуляк — о комедиях, драмах и семейных ценностях

OK!
12 советских телефонных аппаратов: самые культовые и самые народные модели 12 советских телефонных аппаратов: самые культовые и самые народные модели

Испытываешь ностальгию по старой технике? Понимаем, уважаем, сами извращенцы

Maxim
Физики научили случайные лазеры собираться по требованию Физики научили случайные лазеры собираться по требованию

Физики продемонстрировали технологию самосборки коллоидных частиц в структуры

N+1
Как по облакам определить погоду: 10 типов облаков, и о чем они говорят Как по облакам определить погоду: 10 типов облаков, и о чем они говорят

Если знать, о чем говорит каждый из типов облаков, можно предсказать погоду

ТехИнсайдер
Дом под снос Дом под снос

Некоторые из самых интересных архитектурных проектов Японии долго не проживут

Robb Report
Белые акулы покинули окрестности города Хансбай из-за двух выедающих им печень косаток Белые акулы покинули окрестности города Хансбай из-за двух выедающих им печень косаток

Всего две косатки прогнали белых акул из места, где они жили круглый год

N+1
Поражение миндалины не дало людям принести одного в жертву ради спасения многих Поражение миндалины не дало людям принести одного в жертву ради спасения многих

Пациенты с болезнью Убраха-Вите отказываются приносить в жертву невинного

N+1
Счастливые, успешные и оптимистичные: как такие люди относятся к жизни Счастливые, успешные и оптимистичные: как такие люди относятся к жизни

Почему одни люди успешны и довольны жизнью, а другие не вылезают из депрессий

Psychologies
Только о хорошем: 5 книг, которые помогут избавиться от детских травм Только о хорошем: 5 книг, которые помогут избавиться от детских травм

Книги, которые помогут проработать токсичное прошлое

ТехИнсайдер
Как в Таджикистане строят самую высокую плотину в мире Как в Таджикистане строят самую высокую плотину в мире

Строительство Рогунской ГЭС в Таджикистане длится уже более 50 лет

Forbes
Секреты флористов: как сохранить розы в букете дольше Секреты флористов: как сохранить розы в букете дольше

Как продлить цветам молодость?

VOICE
Infiniti QX55. Отличный автомобиль с проблемами в имидже Infiniti QX55. Отличный автомобиль с проблемами в имидже

Рестайлинговый Infiniti QX55 — неужели это безупречный автомобиль?

4x4 Club
20 игр для детей в путешествии 20 игр для детей в путешествии

Дорога пролетит незаметно, если устроить с ребенком интересную игру

Лиза
Страх и смех в одном флаконе: 30 отличных комедийных хорроров Страх и смех в одном флаконе: 30 отличных комедийных хорроров

Неуклюжие вампиры и зомби, откровенные пародии на жанр – будет весело и страшно

Правила жизни
Как есть, чтобы похудеть: 4 главных микроэлемента здоровой диеты Как есть, чтобы похудеть: 4 главных микроэлемента здоровой диеты

Какие микроэлементы должны присутствовать в здоровой диете

Psychologies
Атеросклероз: как обнаружить и предотвратить развитие сосудистого заболевания Атеросклероз: как обнаружить и предотвратить развитие сосудистого заболевания

Насколько опасны холестериновые бляшки?

ТехИнсайдер
В Турции нашли летнюю резиденцию внука Чингисхана Хулагу В Турции нашли летнюю резиденцию внука Чингисхана Хулагу

Обнаружены следы поселения, предположительно сооруженного ильханом Хулагу

N+1
Татарская лапша Татарская лапша

Любовь к национальной гастрономии — наше семейное дело

Bones
Какими вырастают дети при «токсичных» мамах Какими вырастают дети при «токсичных» мамах

Кто такая токсичная мама?

Psychologies
Тайна смерти Александра Македонского: почему тело оставалось нетленным? Тайна смерти Александра Македонского: почему тело оставалось нетленным?

Как умер Александр Македонский: теория доктора Кэтрин Холл

ТехИнсайдер
«Человек-экспонат»: история мальчика из Дудинки, чей портрет висит в офисе ООН «Человек-экспонат»: история мальчика из Дудинки, чей портрет висит в офисе ООН

Мальчик с портрета, который висит в ООН — о жизни и важности сохранения истории

СНОБ
Подача — от идеи до стола Подача — от идеи до стола

Подачи блюд ресторана COCOCO, которые цепляют людей за душу

Bones
В Египте нашли мумию парализованной после инсульта женщины В Египте нашли мумию парализованной после инсульта женщины

Ученые исследовали древнеегипетскую мумию, похороненную с костылем

N+1
Археологи обнаружили в Гнёздове серебряный плетеный позумент Археологи обнаружили в Гнёздове серебряный плетеный позумент

Элемент одежды древнерусской знати нашли на месте разрушенного в X веке кургана

N+1
Необычные факты об Уране: самая странная планета Солнечной системы Необычные факты об Уране: самая странная планета Солнечной системы

Некоторые факты о планетах нашей родной Солнечной системы не могут не удивлять

ТехИнсайдер
«Конек-горбунок»: история создания сказки и ее экранизации «Конек-горбунок»: история создания сказки и ее экранизации

Рассказываем историю публикации «Конька-горбунка» и вспоминаем похожие сюжеты

Культура.РФ
«Чикагская семерка»: болезни, которые мы приобретаем из-за эмоций «Чикагская семерка»: болезни, которые мы приобретаем из-за эмоций

Почему наши переживания приводят к болезням? Объясняет эксперт.

Psychologies
Шкалик Шкалик

Анатолий живет очень скромно и пишет роман про старый газетный лист

Правила жизни
Открыть в приложении