Нередко ИИ находит то, чего на самом деле нет

ТехИнсайдерHi-Tech

Как ИИ делает ошибки и обманывает исследователей

Владимир Губайловский

bf2f09f215599e14ae8aa4dba9890fd5_ce_1800x1198x0x73.jpg
DeepMind @deepmind. Unsplash

Специалисты по Computer Science из Принстонского университета опубликовали исследование, в котором они показали, что использование ИИ часто приводит к ошибкам, которые крайне трудно отыскать. Очень многие работы в самых разных областях науки используют некорректные данные для обучения сетей. Это приводит к ложным предсказаниям. Особенно опасны такие ошибки в медицинских приложениях.

Сегодня методы ИИ и особенно нейросети используются в самых разных областях науки - от исследований генома до регистрации быстрых всплесков в астрономии. Нейросети очень популярны. Они где-то на самой вершине хайпа среди всех научных методов. Ученый, который их не использует, кажется ретроградом, а тот кто активно использует - современным продвинутым специалистом.

Но нейросети были разработаны для решения довольно ограниченного круга задач (в первую очередь задач распознавания образов). Отцы-основатели этого метода были серьезными людьми, и хорошо знали как нейросетями правильно пользоваться.

А когда нейросети стали использовать ученые очень далекие по своей специализации от Computer Science, возникли невоспроизводимые результаты, которые невозможно повторить, и невероятные предсказания, которые попросту ложны.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Сила слова Сила слова

«Искусственный интеллект нужен человеку» – сообщил нам искусственный интеллект

Популярная механика
Распутство и добродетель в эволюции половых хромосом Распутство и добродетель в эволюции половых хромосом

Прямо сейчас, возможно, на Земле появляется новая половая хромосома

СНОБ
Шифры, хакеры, шпионы: пока все разбираются с криптовалютой, редакция «Правил жизни» изучает историю криптографии Шифры, хакеры, шпионы: пока все разбираются с криптовалютой, редакция «Правил жизни» изучает историю криптографии

Музей криптографии: самый древний шифр, популярные пароли и худший майнер в мире

Правила жизни
Депиляция: как удалить волосы в салоне и дома. Советы эксперта Депиляция: как удалить волосы в салоне и дома. Советы эксперта

Рассказываем о самых актуальных методах депиляции

РБК
Боди-хоррор: что это такое и самые страшные современные фильмы этого жанра Боди-хоррор: что это такое и самые страшные современные фильмы этого жанра

Страшилки, где с человеческим телом происходит что-то нехорошее

Maxim
Шамиль Идиатуллин: «Возвращение “Пионера”». Фантастический роман о советских школьниках в 2021 году Шамиль Идиатуллин: «Возвращение “Пионера”». Фантастический роман о советских школьниках в 2021 году

Отрывок из «Возвращение “Пионера”» — истории о том, что нет ничего невозможного

СНОБ
А вдруг все серьезнее... А вдруг все серьезнее...

Болит спина – и мы спешим на массаж. А может, надо к врачу?

Лиза
4 самых популярных способа обмана через Интернет 4 самых популярных способа обмана через Интернет

Делимся лайфхаками, как сохранить деньги, персональные данные и нервы

Maxim
Почему сервисы доставки еды за 15 минут «сжимаются» один за другим Почему сервисы доставки еды за 15 минут «сжимаются» один за другим

Пока сервисы доставки еды за 15 минут не смогли победить правила экономики

VC.RU
Близкий пропал без вести: как справиться с болью и неизвестностью Близкий пропал без вести: как справиться с болью и неизвестностью

Как помочь себе, если ваш близкий пропал?

Psychologies
Археологи обнаружили в Гнёздове серебряный плетеный позумент Археологи обнаружили в Гнёздове серебряный плетеный позумент

Элемент одежды древнерусской знати нашли на месте разрушенного в X веке кургана

N+1
Как отраслевым компаниям работать в связке с изобретателями Как отраслевым компаниям работать в связке с изобретателями

Как крупнейший в мире производитель никеля наладил систему внедрения технологий

СНОБ
Диета, обогнавшая по популярности кето: что такое FMD и кому она подойдет Диета, обогнавшая по популярности кето: что такое FMD и кому она подойдет

Что такое Fast Mimicking Diet, «диета, имитирующая голодание».

VOICE
Как завоевать любого мужчину: секрет неотразимой Лили Брик Как завоевать любого мужчину: секрет неотразимой Лили Брик

Лиля Брик — одна из самых неординарных женщин XX века

VOICE
Мозг без вас решает стоит ли браться за выгодное дело, если оно принесет боль Мозг без вас решает стоит ли браться за выгодное дело, если оно принесет боль

Полосатое тело виновато в том, что мы прокрастинируем

ТехИнсайдер
Как юрист из Москвы помогает хаски, от которых отказались хозяева Как юрист из Москвы помогает хаски, от которых отказались хозяева

Как юрист из Москвы Наталия Басина построила под Рузой хаски-деревню

СНОБ
Как правильно переживать жару: 8 лайфхаков от врача Как правильно переживать жару: 8 лайфхаков от врача

8 советов, ĸоторые помогут безопасно пережить жарĸое время

Psychologies
Страшные и загадочные динозавры среди нас: посмотрите на этих живых ископаемых XXI века Страшные и загадочные динозавры среди нас: посмотрите на этих живых ископаемых XXI века

Виды, которые прекрасно себя чувствуют, как и несколько миллионов лет назад

ТехИнсайдер
Предковая компонента в геномах удмуртов и бесермян оказалась «удмуртской» Предковая компонента в геномах удмуртов и бесермян оказалась «удмуртской»

Генетики исследовали ДНК 28 удмуртов и бесермян

N+1
Крысы опылили фейхоа Крысы опылили фейхоа

Грызуны и деревья перешли к взаимовыгодному сотрудничеству

N+1
Почему перед азартными играми так сложно устоять Почему перед азартными играми так сложно устоять

Дофамин, удача новичка и доступность — почему люди так любят азартные игры

ТехИнсайдер
Атмосфера драйва Атмосфера драйва

Необычный симбиоз стилей получился из-за разных предпочтений владельцев

Идеи Вашего Дома
«Эти дни»: зачем компании вводят менструальные отгулы «Эти дни»: зачем компании вводят менструальные отгулы

Как внимание к менструации влияет на представление о гендерном равенстве?

Forbes
Умер Борис Ротенберг, сын Ирины Антоновой Умер Борис Ротенберг, сын Ирины Антоновой

Вспоминаем о главной драме Ирины Антоновой

СНОБ
Происхождение собак связали с двумя разными популяциями волков Происхождение собак связали с двумя разными популяциями волков

Предками собак могли быть одомашненные волки из Сибири и с Ближнего Востока

N+1
Почему мы не найдем инопланетян в космосе, даже если они существуют на самом деле Почему мы не найдем инопланетян в космосе, даже если они существуют на самом деле

Почему мы не узнаем о существовании живых существ у чужих звезд?

ТехИнсайдер
Как кофе, алкоголь и ролики в YouTube делают нас невротичнее, умнее или спокойнее Как кофе, алкоголь и ролики в YouTube делают нас невротичнее, умнее или спокойнее

Отрывок из книги «Будь тем, кем хочешь. Наука о том, как изменить себя»

Forbes
В Израиле обнаружили 8000-летнюю статуэтку богини-матери В Израиле обнаружили 8000-летнюю статуэтку богини-матери

Археологи обнаружили статуэтку, изображающую богиню-мать

N+1
Как по облакам определить погоду: 10 типов облаков, и о чем они говорят Как по облакам определить погоду: 10 типов облаков, и о чем они говорят

Если знать, о чем говорит каждый из типов облаков, можно предсказать погоду

ТехИнсайдер
Судебная перспектива Судебная перспектива

История постсоветского искусства в преследованиях и приговорах суда

Weekend
Открыть в приложении