Нередко ИИ находит то, чего на самом деле нет

ТехИнсайдерHi-Tech

Как ИИ делает ошибки и обманывает исследователей

Владимир Губайловский

bf2f09f215599e14ae8aa4dba9890fd5_ce_1800x1198x0x73.jpg
DeepMind @deepmind. Unsplash

Специалисты по Computer Science из Принстонского университета опубликовали исследование, в котором они показали, что использование ИИ часто приводит к ошибкам, которые крайне трудно отыскать. Очень многие работы в самых разных областях науки используют некорректные данные для обучения сетей. Это приводит к ложным предсказаниям. Особенно опасны такие ошибки в медицинских приложениях.

Сегодня методы ИИ и особенно нейросети используются в самых разных областях науки - от исследований генома до регистрации быстрых всплесков в астрономии. Нейросети очень популярны. Они где-то на самой вершине хайпа среди всех научных методов. Ученый, который их не использует, кажется ретроградом, а тот кто активно использует - современным продвинутым специалистом.

Но нейросети были разработаны для решения довольно ограниченного круга задач (в первую очередь задач распознавания образов). Отцы-основатели этого метода были серьезными людьми, и хорошо знали как нейросетями правильно пользоваться.

А когда нейросети стали использовать ученые очень далекие по своей специализации от Computer Science, возникли невоспроизводимые результаты, которые невозможно повторить, и невероятные предсказания, которые попросту ложны.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как бегать, если вы... ненавидите бегать Как бегать, если вы... ненавидите бегать

Что делать, если вы ненавидите бегать

Men’s Health
Новорожденный чувствует тонкие языковые различия в самые первые часы жизни Новорожденный чувствует тонкие языковые различия в самые первые часы жизни

Нейробиологи увидели богатые реакции мозга новорожденного на звуковые образы

ТехИнсайдер
8 вещей и явлений, названных в честь исторических личностей 8 вещей и явлений, названных в честь исторических личностей

Иногда новым словом становится чье-то имя или фамилия

ТехИнсайдер
11 правил хорошего отпуска 11 правил хорошего отпуска

Как отдохнуть без стрессов?

Psychologies
МЮ спонсирует криптоплатформа, а «Ливерпуль» — финтех-корпорация: как футбольная форма стала зеркалом технотрендов МЮ спонсирует криптоплатформа, а «Ливерпуль» — финтех-корпорация: как футбольная форма стала зеркалом технотрендов

Почему футбольные клубы сотрудничают с букмекерами и криптосервисами?

VC.RU
Тропический остров Тропический остров

Интерьер в морских тонах пробуждает бунтарское настроение

Идеи Вашего Дома
Люди дороже денег: как торговые центры привлекают посетителей в кризис Люди дороже денег: как торговые центры привлекают посетителей в кризис

ТРЦ привлекают все больше досуговых концепций, но доходов они почти не приносят

Forbes
Олли Дабу: «Гости — это люди, которые кладут деньги в твой карман» Олли Дабу: «Гости — это люди, которые кладут деньги в твой карман»

Олли Дабу — о карантине, детском питании и гиде Michelin

Bones
«Я слежу за тобой»: как распознать в новом знакомом сталкера «Я слежу за тобой»: как распознать в новом знакомом сталкера

Но что делать с теми, кто вопреки всем преградам хочет стать частью нашей жизни

Psychologies
Сергей Фокин: «Свое поварское эго надо засунуть куда подальше» Сергей Фокин: «Свое поварское эго надо засунуть куда подальше»

Сергей Фокин о своем первом ресторане в подвале и увольнении из-за фотосъемки

Bones
Брендинг для агробизнеса Брендинг для агробизнеса

Четыре основных заблуждения при разработке бренда и как с ними работать

Агроинвестор
Кто изобрел алфавит: история, о которой вы не знали Кто изобрел алфавит: история, о которой вы не знали

Наша система письма была разработана людьми, которые не умели читать

ТехИнсайдер
Личный опыт: почему я решил стать психологом Личный опыт: почему я решил стать психологом

Мы поговорили со специалистом, который только начинает свои шаги в психологии

Psychologies
Unmatched по версии Кранаха: что стоит за картинами немецкого живописца? Unmatched по версии Кранаха: что стоит за картинами немецкого живописца?

На какие темы писал картины Лукас Кранах и кого таким образом высмеивал

Правила жизни
«Захватывает дух»: 5 фильмов про акул-убийц, которые смотрятся на одном дыхании «Захватывает дух»: 5 фильмов про акул-убийц, которые смотрятся на одном дыхании

Фильмы про акул-убийц, основанные на реальных событиях

ТехИнсайдер
Инга Скороходова: Инга Скороходова:

О дружбе писателя Глеба Скороходова с известными людьми рассказывает его сестра

Караван историй
Путь самурая: как философия бусидо помогает сохранить честь в сложные времена Путь самурая: как философия бусидо помогает сохранить честь в сложные времена

Как современный человек может рассматривать кодекс чести самурая

Forbes
5 романов, которые буквально заставят вас пойти в отпуск 5 романов, которые буквально заставят вас пойти в отпуск

Подборка книг, которая поможет окунуться в атмосферу самого беззаботного отдыха

ТехИнсайдер
Дом мечты по гороскопу Дом мечты по гороскопу

Подбираем идеальный дизайн дома по знаку зодиака

Лиза
Кето или интервальное голодание? Идеальная диета по знаку зодиака Кето или интервальное голодание? Идеальная диета по знаку зодиака

Какую диету рекомендуют тебе звезды?

VOICE
Повышение пенсионного экшена Повышение пенсионного экшена

«Старик»: Джефф Бриджес против всех

Weekend
Почему астронавтам нельзя пить алкоголь в космосе Почему астронавтам нельзя пить алкоголь в космосе

С практической точки зрения очень опрометчиво пить в космосе...

ТехИнсайдер
Одна вокруг света: озеро Титикака и ворота в Боливию Одна вокруг света: озеро Титикака и ворота в Боливию

180-я серия о кругосветном путешествии москвички Ирины Сидоренко: в Боливию

Forbes
«Я к вам пишу, а дальше что?»: как перестать бояться белого листа «Я к вам пишу, а дальше что?»: как перестать бояться белого листа

Тебя тоже пугает белый лист? VOICE знает, как бороться с белизной

VOICE
Рейтинги падают, возраст берет своё: что стало с Элен и Николя из культового французского сериала для подростков Рейтинги падают, возраст берет своё: что стало с Элен и Николя из культового французского сериала для подростков

Как сейчас выглядят и чем заняты Элен и Николя из сериала «Элен и ребята»

VOICE
На берегу Красноярского водохранилища нашли две каменные подвески и кострище возрастом 25 тысяч лет На берегу Красноярского водохранилища нашли две каменные подвески и кострище возрастом 25 тысяч лет

Археологи исследовали верхнепалеолитическую стоянку Сабаниха-3

N+1
«Эти дни»: зачем компании вводят менструальные отгулы «Эти дни»: зачем компании вводят менструальные отгулы

Как внимание к менструации влияет на представление о гендерном равенстве?

Forbes
Время вспять: можно ли перевести стрелки биологических часов назад и замедлить старение Время вспять: можно ли перевести стрелки биологических часов назад и замедлить старение

Об интересных научных открытиях из книги «Загадка нестареющей медузы»

ТехИнсайдер
Не расстаться раньше времени: Ольга Примаченко о 5 стадиях отношений Не расстаться раньше времени: Ольга Примаченко о 5 стадиях отношений

Бывает, что отношения заходят в тупик

Psychologies
«Жизнь на кончике скальпеля»: Истории нейрохирурга о непростых решениях. «Жизнь на кончике скальпеля»: Истории нейрохирурга о непростых решениях.

Отрывок из книги нейрохирурга — о уроках, которые ему преподали пациенты

N+1
Открыть в приложении