Нередко ИИ находит то, чего на самом деле нет

ТехИнсайдерHi-Tech

Как ИИ делает ошибки и обманывает исследователей

Владимир Губайловский

bf2f09f215599e14ae8aa4dba9890fd5_ce_1800x1198x0x73.jpg
DeepMind @deepmind. Unsplash

Специалисты по Computer Science из Принстонского университета опубликовали исследование, в котором они показали, что использование ИИ часто приводит к ошибкам, которые крайне трудно отыскать. Очень многие работы в самых разных областях науки используют некорректные данные для обучения сетей. Это приводит к ложным предсказаниям. Особенно опасны такие ошибки в медицинских приложениях.

Сегодня методы ИИ и особенно нейросети используются в самых разных областях науки - от исследований генома до регистрации быстрых всплесков в астрономии. Нейросети очень популярны. Они где-то на самой вершине хайпа среди всех научных методов. Ученый, который их не использует, кажется ретроградом, а тот кто активно использует - современным продвинутым специалистом.

Но нейросети были разработаны для решения довольно ограниченного круга задач (в первую очередь задач распознавания образов). Отцы-основатели этого метода были серьезными людьми, и хорошо знали как нейросетями правильно пользоваться.

А когда нейросети стали использовать ученые очень далекие по своей специализации от Computer Science, возникли невоспроизводимые результаты, которые невозможно повторить, и невероятные предсказания, которые попросту ложны.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Лесные братья Лесные братья

Июль-август – время трёх лесных ягод: малины, черники и брусники

Здоровье
Галактическое излучение: что случится с телом человека, если он столкнется с космической радиацией Галактическое излучение: что случится с телом человека, если он столкнется с космической радиацией

Космос враждебен жизни, нас там не ждут.

ТехИнсайдер
Секс-просвет или эмоциональное насилие: психолог о торговле вибраторами в «Л’Этуаль» Секс-просвет или эмоциональное насилие: психолог о торговле вибраторами в «Л’Этуаль»

Можно ли продавать секс-игрушки в неспециализированных розничных магазинах?

Psychologies
Связь с телом: почему мы не слышим его сигналы и чем это опасно Связь с телом: почему мы не слышим его сигналы и чем это опасно

Наше тело — сложный и тонкий механизм, и оно постоянно подает нам сигналы

VOICE
Выбираем зонт, который прослужит вечность: карбон, эпонж и серебро Выбираем зонт, который прослужит вечность: карбон, эпонж и серебро

Как правильно купить зонт?

Maxim
Часы за 50 миллионов и дорогие тачки: как и на чем зарабатывает Джиган Часы за 50 миллионов и дорогие тачки: как и на чем зарабатывает Джиган

Откуда у Джигана столько денег?

VOICE
Шкалик Шкалик

Анатолий живет очень скромно и пишет роман про старый газетный лист

Правила жизни
Что такое бубонная чума — симптомы и лечение Что такое бубонная чума — симптомы и лечение

Возможно ли распространение бубонной чумы в современном мире?

СНОБ
Пять уникальных особенностей третьего поколения Range Rover Sport Пять уникальных особенностей третьего поколения Range Rover Sport

Стильный, технологичный, изысканный и всё еще внедорожник Range Rover Sport

4x4 Club
Убийство в кукольном доме: как миллионерша Фрэнсис Ли научила полицию собирать улики Убийство в кукольном доме: как миллионерша Фрэнсис Ли научила полицию собирать улики

Собирать доказательства полицию научила женщина, которая любила куклы

Forbes
Образ жизни: Капитуровы Образ жизни: Капитуровы

Лесной дом под Всеволожском

Собака.ru
Как превратить «Ниву» в быстрый и удобный внедорожник Как превратить «Ниву» в быстрый и удобный внедорожник

Как сделать из внедорожника 1977 года современную машину

Maxim
Город, рассказывающий истории Город, рассказывающий истории

Как Нижний Новгород стал одним из главных направлений внутреннего туризма

Правила жизни
Болезнь Леди Гаги и Селены Гомес: чем опасна волчанка и как ее распознать Болезнь Леди Гаги и Селены Гомес: чем опасна волчанка и как ее распознать

Системная красная волчанка — «болезнь с тысячью лиц»

Psychologies
Как ГИБДД вычисляет замазанные цифры на госномере: фото и ответы Как ГИБДД вычисляет замазанные цифры на госномере: фото и ответы

Как вычисляют и ловят двойников авто с помощью системы «Паутина»

РБК
Как филлеры меняют лицо и сохраняют молодость Как филлеры меняют лицо и сохраняют молодость

Как и зачем применяют филлеры?

РБК
10 самолетов, изготовленных в неожиданных странах 10 самолетов, изготовленных в неожиданных странах

Ну какая авиадержава из Пакистана или Болгарии? Однако, и там делают самолёты!

ТехИнсайдер
«Синдром внезапного богатства»: когда деньги — это стресс «Синдром внезапного богатства»: когда деньги — это стресс

Богатство часто бывает разрушительно

Psychologies
«Вчетвером мы составляли единое целое»: история семьи Рерихов «Вчетвером мы составляли единое целое»: история семьи Рерихов

Чем известны Елена, Юрий и Святослав Рерихи

Культура.РФ
«Совсем себя запустила» и «кошки тоже рожают»: как молодой маме реагировать на бестактные фразы «Совсем себя запустила» и «кошки тоже рожают»: как молодой маме реагировать на бестактные фразы

Как маме противостоять бестактным нападкам окружающих?

Psychologies
Новая волна Новая волна

Дарья Мороз — о работе над сценарием «Содержанки. Перезагрузка» и своей ролью

OK!
Дружба с дельфином и любовь к фиговому дереву: 6 книг о единстве человека и природы Дружба с дельфином и любовь к фиговому дереву: 6 книг о единстве человека и природы

Книги, в которых природа помогает героям взрослеть и дает силы

Forbes
«Тембот»: авторское кино о том, как взрослеть без отца на Северном Кавказе «Тембот»: авторское кино о том, как взрослеть без отца на Северном Кавказе

«Тембот»: как исследование человеческого одиночества высветило травму поколения

Forbes
Сати Спивакова: Сати Спивакова:

Я была уверена, что профессия, если ею не заниматься, мстит, просто умирает

Караван историй
Что делать, если кошка царапает мебель: 4 легких способа спасти диван Что делать, если кошка царапает мебель: 4 легких способа спасти диван

Как защитить свою мебель от пушистого негодника.

ТехИнсайдер
5 опасных мифов о сексе: а ты веришь в какой-то из них? 5 опасных мифов о сексе: а ты веришь в какой-то из них?

Стереотипы о сексе, от которых стоит отказаться как можно скорее

VOICE
Игра на повышение: 8 вещей, которые нужно делать, чтобы карьера не буксовала Игра на повышение: 8 вещей, которые нужно делать, чтобы карьера не буксовала

Для карьерного роста понадобятся качества, о которых ты и не задумывалась

VOICE
Сюжет для небольшого романа Сюжет для небольшого романа

Судебную власть гений русской литературы Лев Толстой жаловал не очень

Дилетант
«Не было задачи стать звездой»: Евгения Медведева об отношении к себе и деньгам «Не было задачи стать звездой»: Евгения Медведева об отношении к себе и деньгам

Героиня нового выпуска «НеФорбсов» — фигуристка Евгения Медведева

Forbes
Человек всегда шире концепций: придет ли work-life blend на смену work-life balance Человек всегда шире концепций: придет ли work-life blend на смену work-life balance

Почему концепции не способны сделать работающего человека безусловно счастливым

Forbes
Открыть в приложении