Исследователи из DeepMind разработали мультимодальную нейросеть

N+1Hi-Tech

Нейросеть от DeepMind научилась решать 604 задачи разных типов

Исследователи из DeepMind разработали мультимодальную нейросеть, способную выполнять задачи разного типа. Например, она умеет управлять роботом, играть в игры для Atari, писать текст и описывать фотографии. Статья об алгоритме опубликована на arXiv.org, также авторы рассказали о нем на сайте DeepMind.

Григорий Копиев

DeepMind

В 2017 году исследователи из Google Brain представили нейросетевую архитектуру Transformer, отличительной особенностью которого стало широкое использование механизма внимания. Это позволяет нейросети гораздо лучше понимать контекст слов и предложений, что в свою очередь позволило добиться большого прогресса в целом в области обработки естественного языка. Один из самых известных примеров этого прогресса: модель GPT-3 от OpenAI. Оказалось, что если обучить модель на огромном массиве текстов, она выучит хорошее представления языка и того, как должны выглядеть тексты, после чего ее можно быстро и на очень небольшом объеме данных дообучить до конкретной задачи. Причем эта задача не обязательно должна быть текстовой: выяснилось, что GPT-3 умеет выполнять базовые арифметические операции.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как за каменной стеной Как за каменной стеной

Почему города становятся заповедниками для редких животных

N+1
Девочка, которая должна была стать сверхчеловеком: страшная история Мод Жюльен Девочка, которая должна была стать сверхчеловеком: страшная история Мод Жюльен

Мод Жульен в фантазиях Луи Дидье должна была стать полубогиней

VOICE
«Водородная эйфория» закончилась: почему этот источник энергии не спасет планету «Водородная эйфория» закончилась: почему этот источник энергии не спасет планету

Почему «водородная энергия» оказалась лишь иллюзией?

Forbes
Расовая пластика: как хирург может Расовая пластика: как хирург может

Можно ли полностью избавиться от каких-то внешних черт, присущие расе

VOICE
6 признаков глупого человека 6 признаков глупого человека

Как понять, кого нужно избегать? Да и нужно ли на самом деле?

Psychologies
В чем сила: как поколению-«сэндвич» научиться распоряжаться своими ресурсами В чем сила: как поколению-«сэндвич» научиться распоряжаться своими ресурсами

Как не опустошить себя до конца заботами и остаться разносторонней личностью?

Psychologies
От Айседоры Дункан до «холостячки» и «женщины-вамп»: как менялась мода в начале XX века От Айседоры Дункан до «холостячки» и «женщины-вамп»: как менялась мода в начале XX века

Взгляд на историю глазами гримера

Вокруг света
Модный приговор: к чему может привести резкая смена образа? Модный приговор: к чему может привести резкая смена образа?

В чем опасность несоответствия имиджа и самого человека?

Psychologies
Как писать письма инвесторам, чтобы они отвечали: советы гуру венчура Как писать письма инвесторам, чтобы они отвечали: советы гуру венчура

Отрывок из книги «Повелители корпоративного венчурного капитала»

Forbes
Страх в ожидании медового месяца: что такое абьюз и как его распознать Страх в ожидании медового месяца: что такое абьюз и как его распознать

Что такое абьюз, как защититься от него и распознать абьюзера в других и себе

Forbes
Завтрак на балконе Завтрак на балконе

Волнующая история любви Александра Бенуа и Анны Кинд

Караван историй
Разбор экономики STEPN и пять вариантов будущего Разбор экономики STEPN и пять вариантов будущего

Кто контролирует цену токенов, как её меняют и что может пойти не так

VC.RU
Стройный и злой: как быстро сжечь лишний жир, не навредив себе Стройный и злой: как быстро сжечь лишний жир, не навредив себе

Что влияет на потерю жира и как достичь топовой физической формы

ТехИнсайдер
От жимолости до гортензии От жимолости до гортензии

8 декоративных кустарников, которые хорошо растут в тени

Лиза
«Москвич» возвращается. 8 самых культовых моделей марки «Москвич» возвращается. 8 самых культовых моделей марки

Культовые модели возрождающейся марки «Москвич»

РБК
От Древней Греции до холодной войны: краткая история экономических санкций От Древней Греции до холодной войны: краткая история экономических санкций

Мы слышим слово «санкции» едва ли не каждый день. Но с чего все это началось?

Вокруг света
Экологичный выход: эффективные способы распознать агрессию и справиться с ней Экологичный выход: эффективные способы распознать агрессию и справиться с ней

Как справиться с гневом, злостью и раздражительностью без вреда для себя?

Forbes
Химики вырезали углерод из шестичленного гетероцикла Химики вырезали углерод из шестичленного гетероцикла

Фотохимическая реакция позволила получать индолы из хинолинов

N+1
Правила цифровых отношений: как общаться, чтобы вас понимали правильно Правила цифровых отношений: как общаться, чтобы вас понимали правильно

Цифровой этикет — одна из важнейших частей коммуникации в современном мире

ТехИнсайдер
Быть достаточно хорошим родителем: это как? Быть достаточно хорошим родителем: это как?

Что это значит, быть хорошими родителями?

Psychologies
Икра хариуса, галаган и конина: какие локальные продукты станут новыми деликатесами Икра хариуса, галаган и конина: какие локальные продукты станут новыми деликатесами

Какие локальные продукты заслужат звание новых российских деликатесов

Forbes
Мэрилин Монро в черном и еще 6 необычных свадебных платьев звезд XX века Мэрилин Монро в черном и еще 6 необычных свадебных платьев звезд XX века

Вдохновляемся нетипичными свадебными луками

VOICE
«Трудно даются праздничные речи»: как избавиться от страха выступлений «Трудно даются праздничные речи»: как избавиться от страха выступлений

Некоторые, когда приходит черед произносить речи, испытывают неловкость. Почему?

Psychologies
47 лет вместе и вдруг развод? История любви Алишера Усманова и Ирины Винер 47 лет вместе и вдруг развод? История любви Алишера Усманова и Ирины Винер

Вспоминаем их удивительную историю любви Алишера Усманова и Ирины Винер

VOICE
Инъекция надежды от психотерапевта Альфрида Лэнгле Инъекция надежды от психотерапевта Альфрида Лэнгле

Как организовать свою жизнь в новой реальности?

Psychologies
Как живет «просто Мария» — любимица граждан пост-СССР актриса Виктория Руффо Как живет «просто Мария» — любимица граждан пост-СССР актриса Виктория Руффо

Как живет и выглядит теперь актриса Виктория Руффо

Maxim
В чем отличие треккинговых кроссовок от обычных и почему они нужны каждому мужчине В чем отличие треккинговых кроссовок от обычных и почему они нужны каждому мужчине

Почему треккинговые кроссовки такие удобные?

Maxim
«Неплодородная почва»: как бесплодие стало поводом для стигматизации женщин «Неплодородная почва»: как бесплодие стало поводом для стигматизации женщин

Как на протяжении столетий женщины подвергались стигматизации из-за бесплодия

Forbes
Любовная травма: как ее обнаружить и исцелить Любовная травма: как ее обнаружить и исцелить

Что такое «любовная травма»

Psychologies
Португальский «Шиндлер»: история дипломата, который ценой карьеры спас тысячи человек от нацистов Португальский «Шиндлер»: история дипломата, который ценой карьеры спас тысячи человек от нацистов

Португальский консул Аристидеш де Соуза Мендеш оказался перед непростым выбором

Вокруг света
Открыть в приложении