Нередко ИИ находит то, чего на самом деле нет

ТехИнсайдерHi-Tech

Как ИИ делает ошибки и обманывает исследователей

Владимир Губайловский

bf2f09f215599e14ae8aa4dba9890fd5_ce_1800x1198x0x73.jpg
DeepMind @deepmind. Unsplash

Специалисты по Computer Science из Принстонского университета опубликовали исследование, в котором они показали, что использование ИИ часто приводит к ошибкам, которые крайне трудно отыскать. Очень многие работы в самых разных областях науки используют некорректные данные для обучения сетей. Это приводит к ложным предсказаниям. Особенно опасны такие ошибки в медицинских приложениях.

Сегодня методы ИИ и особенно нейросети используются в самых разных областях науки - от исследований генома до регистрации быстрых всплесков в астрономии. Нейросети очень популярны. Они где-то на самой вершине хайпа среди всех научных методов. Ученый, который их не использует, кажется ретроградом, а тот кто активно использует - современным продвинутым специалистом.

Но нейросети были разработаны для решения довольно ограниченного круга задач (в первую очередь задач распознавания образов). Отцы-основатели этого метода были серьезными людьми, и хорошо знали как нейросетями правильно пользоваться.

А когда нейросети стали использовать ученые очень далекие по своей специализации от Computer Science, возникли невоспроизводимые результаты, которые невозможно повторить, и невероятные предсказания, которые попросту ложны.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Гормоны счастья Гормоны счастья

Как приучить мозг вырабатывать серотонин, дофамин, эндорфин и окситоцин

kiozk originals
Татарская лапша Татарская лапша

Любовь к национальной гастрономии — наше семейное дело

Bones
Смелая анимация: 6 мультфильмов про девочек, которые поднимают важные темы Смелая анимация: 6 мультфильмов про девочек, которые поднимают важные темы

Мультфильмы, которые говорят о важных женских темах

Forbes
Ученые рассказали, как правильно прыгать в воду, чтобы ничего не повредить Ученые рассказали, как правильно прыгать в воду, чтобы ничего не повредить

Как безопасно прыгать в воду?

ТехИнсайдер
Парадокс Пето: ученые узнали, почему слоны редко болеют раком Парадокс Пето: ученые узнали, почему слоны редко болеют раком

Что такое пародокс Пето и почему он не распространяется на слонов?

ТехИнсайдер
Сати Спивакова: Сати Спивакова:

Я была уверена, что профессия, если ею не заниматься, мстит, просто умирает

Караван историй
Тайна темной энергии. Вселенная не просто расширяется, она расширяется ускоренно Тайна темной энергии. Вселенная не просто расширяется, она расширяется ускоренно

Почему Вселенная расширяется ускоренно?

ТехИнсайдер
Как бывшая балерина спасла семейный бизнес от убытков и заработала на сухих завтраках миллионы рублей Как бывшая балерина спасла семейный бизнес от убытков и заработала на сухих завтраках миллионы рублей

Как бывшая балерина стала крупным производственником?

Inc.
Топ-10 распространенных мифов о собаках, в которые до сих пор верят Топ-10 распространенных мифов о собаках, в которые до сих пор верят

Уже давно перестать верить в эти антинаучные убеждения о собаках

ТехИнсайдер
«Мне ломали нос, были сотрясения мозга»: Алена Ашмарина заявила о насилии бывшего мужа «Мне ломали нос, были сотрясения мозга»: Алена Ашмарина заявила о насилии бывшего мужа

Алена Ашмарина рассказала о пережитом насилии

VOICE
Зачем нужен пилинг для кожи головы и как его выбрать Зачем нужен пилинг для кожи головы и как его выбрать

Пилинг поможет избавиться от перхоти, зуда и повышенной жирности головы

РБК
Белые акулы покинули окрестности города Хансбай из-за двух выедающих им печень косаток Белые акулы покинули окрестности города Хансбай из-за двух выедающих им печень косаток

Всего две косатки прогнали белых акул из места, где они жили круглый год

N+1
«Отец драконов» писатель Олег Рой — о новых детских проектах «Отец драконов» писатель Олег Рой — о новых детских проектах

Олег Рой — о новых вселенных, объединенных персонажем Дракошей Тошей

РБК
Как выбрать внешний накопитель: практические советы и рекомендации Как выбрать внешний накопитель: практические советы и рекомендации

Какие характеристики внешних накопителей особенно важны, и как их подобрать

CHIP
Эпоха мушкетеров и не только: 5 лучших книг Александра Дюма Эпоха мушкетеров и не только: 5 лучших книг Александра Дюма

Культовые книги Александра Дюма, которые актуальны вне времени

ТехИнсайдер
Александр Иншаков: Александр Иншаков:

Я на его глазах выбил ногой сигарету изо рта партнера

Караван историй
Берегите эмпатию. 5 главных качеств, которыми нужно обладать, чтобы обрести доверие команды Берегите эмпатию. 5 главных качеств, которыми нужно обладать, чтобы обрести доверие команды

Отрывок из книги «Сила в доверии» о самом важном нематериальном активе компании

Inc.
В Южной Корее родились клонированные отредактированные бигли В Южной Корее родились клонированные отредактированные бигли

Ученые получили двух клонов бигля с мутацией, связанной с болезнью Паркинсона

N+1
Еще 10 ярких примеров эффекта Манделы, когда люди помнят то, чего не было Еще 10 ярких примеров эффекта Манделы, когда люди помнят то, чего не было

Ты удивишься, насколько ты неверно запомнил самые очевидные вещи и события

Maxim
История одного здания: особняк Брусницыных в Петербурге История одного здания: особняк Брусницыных в Петербурге

Особняк купцов Брусницыных — таинственный дом с зеркалом Дракулы в Петербурге

Культура.РФ
Генетическое тестирование: зачем оно нужно и почему мы (не) решаемся его сделать? Генетическое тестирование: зачем оно нужно и почему мы (не) решаемся его сделать?

Отрывок из книги про гены «Мальчик, который не переставал расти»

Psychologies
Затянуть потуже: как корсет угнетал и раскрепощал женщин Затянуть потуже: как корсет угнетал и раскрепощал женщин

У корсета противоречивая история

Forbes
Пивной живот, обвисшая грудь и еще 6 симптомов, которые могут говорить о серьезных заболеваниях Пивной живот, обвисшая грудь и еще 6 симптомов, которые могут говорить о серьезных заболеваниях

Даже супергероям, у которых никогда ничего не болит, иногда нужен врач

Maxim
Секс-скандал Билла Клинтона и Моники Левински: как сложилась судьба участницы одного из самых громких политических скандалов в современной истории США Секс-скандал Билла Клинтона и Моники Левински: как сложилась судьба участницы одного из самых громких политических скандалов в современной истории США

История Моники Левински — «нулевого пациента» кибербуллинга

Правила жизни
«Я к вам пишу, а дальше что?»: как перестать бояться белого листа «Я к вам пишу, а дальше что?»: как перестать бояться белого листа

Тебя тоже пугает белый лист? VOICE знает, как бороться с белизной

VOICE
Куда исчез Тунгусский метеорит: самые смелые и оригинальные гипотезы Куда исчез Тунгусский метеорит: самые смелые и оригинальные гипотезы

Почему никто не может найти кратер таинственного Тунгусского метеорита?

ТехИнсайдер
Археологи нашли в Гнездове подтверждение письменных свидетельств о погребальном обряде русов Археологи нашли в Гнездове подтверждение письменных свидетельств о погребальном обряде русов

Археологи сообщили о первых результатах раскопок в Гнездове

N+1
Судебный квест. Как основатель «Клаустрофобии» пытается отсудить деньги за продажу бизнеса у известного девелопера Судебный квест. Как основатель «Клаустрофобии» пытается отсудить деньги за продажу бизнеса у известного девелопера

Как и зачем продавалась «Клаустрофобия»

Inc.
Здесь и сейчас Здесь и сейчас

Локальность и сезонность — гастрономический тренд

Bones
Природа и искусство Природа и искусство

Интерьер в стиле современного шале, наполненного предметами искусства

SALON-Interior
Открыть в приложении