Исследователи из DeepMind разработали мультимодальную нейросеть

N+1Hi-Tech

Нейросеть от DeepMind научилась решать 604 задачи разных типов

Исследователи из DeepMind разработали мультимодальную нейросеть, способную выполнять задачи разного типа. Например, она умеет управлять роботом, играть в игры для Atari, писать текст и описывать фотографии. Статья об алгоритме опубликована на arXiv.org, также авторы рассказали о нем на сайте DeepMind.

Григорий Копиев

DeepMind

В 2017 году исследователи из Google Brain представили нейросетевую архитектуру Transformer, отличительной особенностью которого стало широкое использование механизма внимания. Это позволяет нейросети гораздо лучше понимать контекст слов и предложений, что в свою очередь позволило добиться большого прогресса в целом в области обработки естественного языка. Один из самых известных примеров этого прогресса: модель GPT-3 от OpenAI. Оказалось, что если обучить модель на огромном массиве текстов, она выучит хорошее представления языка и того, как должны выглядеть тексты, после чего ее можно быстро и на очень небольшом объеме данных дообучить до конкретной задачи. Причем эта задача не обязательно должна быть текстовой: выяснилось, что GPT-3 умеет выполнять базовые арифметические операции.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Россия: страна, которая хочет быть другой. Двадцать пять лет — взгляд изнутри» «Россия: страна, которая хочет быть другой. Двадцать пять лет — взгляд изнутри»

Приватизация и либерализация цен изменила жизнь россиян

N+1
Как стартап Mirvie научился предсказывать осложнения беременности и привлек $60 млн Как стартап Mirvie научился предсказывать осложнения беременности и привлек $60 млн

Как стартап Mirvie планирует вывести на рынок революционный тест на преэклампсию

Forbes
Самые безопасные: 10 авиакомпаний мира, у которых не было авиакатастроф за всю историю их существования Самые безопасные: 10 авиакомпаний мира, у которых не было авиакатастроф за всю историю их существования

Какие авиакомпании безопаснее других за всю историю гражданской авиации

ТехИнсайдер
На долгую жизнь На долгую жизнь

Современный загородный особняк с респектабельным и изысканным интерьером

SALON-Interior
Первая минута Первая минута

Как заставить начало разговора работать на результат

kiozk originals
Как продлить жизнь покрышкам: 5 простых советов, которые реально работают Как продлить жизнь покрышкам: 5 простых советов, которые реально работают

Как действовать, чтобы покрышки прослужили дольше

Вокруг света
Даже на 80 кг! Реальные истории людей, похудевших на фастфуде Даже на 80 кг! Реальные истории людей, похудевших на фастфуде

Для похудения вовсе не обязательно следовать принципам здорового питания

VOICE
Дети и супруги от первого брака: как найти общий язык? Дети и супруги от первого брака: как найти общий язык?

Как строить отношения между новыми женами или мужьями и «старыми» детьми?

Psychologies
Полная гармония Полная гармония

Знать гормональный профиль так же важно, как и следить за весом и давлением

Лиза
Этот год в истории: что происходило в России и в мире в 1994 году? Этот год в истории: что происходило в России и в мире в 1994 году?

Что происходило в 1994 году и каким был мир за пределами студии «Час пик»?

Правила жизни
Не впадать в зеленую тоску: как Дрю Бэрримор продвигает экоинициативы Не впадать в зеленую тоску: как Дрю Бэрримор продвигает экоинициативы

Тональность высказываний — шанс достучаться до самой широкой аудитории

Forbes
Поступки, которые нам кажутся умными, но на самом деле совсем нет Поступки, которые нам кажутся умными, но на самом деле совсем нет

Рано или поздно почти всем нам приходят в голову эти идеи

Maxim
Как быстро запоминать нужную информацию: 7 приемов от инструктора по развитию памяти Как быстро запоминать нужную информацию: 7 приемов от инструктора по развитию памяти

Как же быстро запоминать и эффективно обрабатывать нужную нам информацию

Psychologies
7 причин, по которым вы можете чувствовать постоянную грусть и тоску: исправляем жизнь к лучшему 7 причин, по которым вы можете чувствовать постоянную грусть и тоску: исправляем жизнь к лучшему

Совершенно нормально чувствовать грусть, но причины этого могут быть разными

Популярная механика
«Ты большой молодец, но я ничего не понял»: как на язык влияют технологии «Ты большой молодец, но я ничего не понял»: как на язык влияют технологии

Рассказываем о «новой письменной речи» и том, как «технологизируется» язык.

Maxim
Убийцы под прикрытием: 5 самых ядовитых грибов в мире, которые нельзя собирать в лесу Убийцы под прикрытием: 5 самых ядовитых грибов в мире, которые нельзя собирать в лесу

Самые опасные, ядовитые и безжалостные грибы-убийцы

ТехИнсайдер
Как питаться, чтобы избежать рака Как питаться, чтобы избежать рака

Питание, которое снизит риск онкологического заболевания

Psychologies
10 самых перспективных российских предпринимателей моложе 30 лет — 2022 10 самых перспективных российских предпринимателей моложе 30 лет — 2022

Десятка самых перспективных бизнесменов России

Forbes
Что такое хакатоны и зачем они нужны? Обратная сторона IT-марафона Что такое хакатоны и зачем они нужны? Обратная сторона IT-марафона

Как же попасть на работу в IT, если ты без опыта?

ТехИнсайдер
Помогите, я нормально работаю только ночью! Нужно ли с этим что-то делать Помогите, я нормально работаю только ночью! Нужно ли с этим что-то делать

Утром невозможно продрать глаза, зато вечером работоспособность бьет ключом?

VOICE
Тело — это просто тело: что такое бодипозитив и бодинейтральность Тело — это просто тело: что такое бодипозитив и бодинейтральность

Отрывок из книги «Мудрость тела» Хиллари Л. МакБрайд

Forbes
«Люблю колоть морду»: как живет девушка с самыми большими скулами в мире «Люблю колоть морду»: как живет девушка с самыми большими скулами в мире

Главной фишкой Анастасии стало именно увеличение зоны скул

VOICE
Что делать, если ты была нежеланным ребенком в семье: объяснил психолог Что делать, если ты была нежеланным ребенком в семье: объяснил психолог

Нежеланные дети всю жизнь пытаются доказать родителям, что достойны любви

Cosmopolitan
Бразильский Чернобыль: радиоактивное заражение в Гоянии в 1987 году Бразильский Чернобыль: радиоактивное заражение в Гоянии в 1987 году

Катастрофа произошла через полтора года после аварии на Чернобыльской АЭС

Maxim
Пришельцы в Балтике: кто они, откуда и почему прижились? Пришельцы в Балтике: кто они, откуда и почему прижились?

Биологические инвазии — это глобальное экологическое явление

Наука и жизнь
Проклятие Бекхэмов и Йовович: почему дети звезд всегда выглядят хуже родителей Проклятие Бекхэмов и Йовович: почему дети звезд всегда выглядят хуже родителей

Как живется детям популярных родителей?

VOICE
Киногороскоп: какая ты королева драмы по знаку зодиака? Киногороскоп: какая ты королева драмы по знаку зодиака?

Хочешь узнать, в какой драме ты могла бы сыграть главную роль?

VOICE
Гонки на Гонки на

Представляем вашему вниманию пять самых безумных автомобильных гонок в мире!

Популярная механика
4 красных флага в ее сообщениях: мужчины о том, почему не зашли дальше переписки 4 красных флага в ее сообщениях: мужчины о том, почему не зашли дальше переписки

Красных флажки, которые могут стать препятствием встречи в реале

Psychologies
Горячая ванна вместо тренировки: как работает новый лайфхак для похудения Горячая ванна вместо тренировки: как работает новый лайфхак для похудения

Не любишь спорт, но обожаешь домашние бьюти-процедуры? Значит, это судьба!

VOICE
Открыть в приложении