Исследователи из DeepMind разработали мультимодальную нейросеть

N+1Hi-Tech

Нейросеть от DeepMind научилась решать 604 задачи разных типов

Исследователи из DeepMind разработали мультимодальную нейросеть, способную выполнять задачи разного типа. Например, она умеет управлять роботом, играть в игры для Atari, писать текст и описывать фотографии. Статья об алгоритме опубликована на arXiv.org, также авторы рассказали о нем на сайте DeepMind.

Григорий Копиев

DeepMind

В 2017 году исследователи из Google Brain представили нейросетевую архитектуру Transformer, отличительной особенностью которого стало широкое использование механизма внимания. Это позволяет нейросети гораздо лучше понимать контекст слов и предложений, что в свою очередь позволило добиться большого прогресса в целом в области обработки естественного языка. Один из самых известных примеров этого прогресса: модель GPT-3 от OpenAI. Оказалось, что если обучить модель на огромном массиве текстов, она выучит хорошее представления языка и того, как должны выглядеть тексты, после чего ее можно быстро и на очень небольшом объеме данных дообучить до конкретной задачи. Причем эта задача не обязательно должна быть текстовой: выяснилось, что GPT-3 умеет выполнять базовые арифметические операции.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Аналог ацтекского омичикауацтли из человеческой кости выявили среди находок из Техаса Аналог ацтекского омичикауацтли из человеческой кости выявили среди находок из Техаса

Какие ацтекские артефакты обнаружили на юге Техаса

N+1
Пропущенный рейд может стоить жизни редкому животному: 8 причин «не ставить на паузу» охрану природы Пропущенный рейд может стоить жизни редкому животному: 8 причин «не ставить на паузу» охрану природы

Здоровая экосистема планеты — залог нашего существования

Вокруг света
Корректировать размер скидки и определить брак: в чем ИИ поможет даже малому бизнесу Корректировать размер скидки и определить брак: в чем ИИ поможет даже малому бизнесу

Что именно искусственный интеллект делает для бизнеса уже сегодня?

Inc.
Невенчурные инвестиции Невенчурные инвестиции

Андрей Кондратюк и Евгений Зальцман вкладываются в технологические компании в РФ

Forbes
Лошади стали прекрасными бегунами из-за генетической ошибки Лошади стали прекрасными бегунами из-за генетической ошибки

Мутация, из-за которой лошади должны были вымереть, но стали отличными бегунами

ТехИнсайдер
С кошками не так: от какой болезни защищает детей присутствие собаки в доме С кошками не так: от какой болезни защищает детей присутствие собаки в доме

Ученые выявили необычную особенность домашних животных

Вокруг света
Чем дорогой робот-пылесос отличается от более дешевого? Чем дорогой робот-пылесос отличается от более дешевого?

Что в дорогих моделях роботов-пылесосв полезного, и стоит ли переплачивать?

CHIP
Как правильно парковаться: 5 простых лайфхаков для водителей. Вы всегда делали это не так! Как правильно парковаться: 5 простых лайфхаков для водителей. Вы всегда делали это не так!

Парковка — как перестать бояться этого страшного слова

ТехИнсайдер
Валерия Чекалина: «Потребности в еще большем количестве денег у меня нет» Валерия Чекалина: «Потребности в еще большем количестве денег у меня нет»

Почему все летят рожать за границу и как жить в условиях блокировок

ЖАРА Magazine
На что способна NFC: и мы не о бесконтактных платежах На что способна NFC: и мы не о бесконтактных платежах

NFC может использоваться не только для бесконтактных платежей

CHIP
Пылевые вихри и восходящие ветра оказались ответственны за пылевую дымку на Марсе Пылевые вихри и восходящие ветра оказались ответственны за пылевую дымку на Марсе

Ветра поднимают пыль на Марсе

N+1
Действующий персонаж: как зарабатывать на героях метавселенной Действующий персонаж: как зарабатывать на героях метавселенной

Основатель Superplastic Пол Будниц создает персонажей в метавселенной

Forbes
Летописец богемного андерграунда, поймавший в кадре дух свободы и перемен: жизнь и творчество классика фотографии Сергея Борисова Летописец богемного андерграунда, поймавший в кадре дух свободы и перемен: жизнь и творчество классика фотографии Сергея Борисова

Сменив десяток профессий, Сергей Борисов пришел к фотографии

Правила жизни
Хозяева древних морей Хозяева древних морей

Кем были самые опасные морские хищники прошлого?

Вокруг света
Понты дороже денег Понты дороже денег

«Самый дорогой коньяк», или Как решались вопросы долгов в начале нулевых

СНОБ
Сила слова: как научиться писательскому мастерству Сила слова: как научиться писательскому мастерству

Книги, которые научат вас писать так, чтобы это хотелось читать

ТехИнсайдер
На долгую жизнь На долгую жизнь

Современный загородный особняк с респектабельным и изысканным интерьером

SALON-Interior
Быстрый способ убрать пивной живот в 6 простых шагов: как похудеть к лету Быстрый способ убрать пивной живот в 6 простых шагов: как похудеть к лету

Как уменьшить объем живота и привести себя в форму?

ТехИнсайдер
Кто помог маме неизлечимо больного ребенка отстоять интересы сына и человеческое достоинство Кто помог маме неизлечимо больного ребенка отстоять интересы сына и человеческое достоинство

Как живут дети с миодистрофией Дюшенна

СНОБ
«Не могу выйти из отношений, где много боли и слез» «Не могу выйти из отношений, где много боли и слез»

Как выйти из абьюзивных отношений?

Psychologies
5 упражнений, которые помогут снять боли в спине: разгрузка для тех, кто ведет сидячий образ жизни 5 упражнений, которые помогут снять боли в спине: разгрузка для тех, кто ведет сидячий образ жизни

Простые упражнения, которые помогут расслабить позвоночник

ТехИнсайдер
Коронация Чарльза состоится через несколько месяцев: как простятся с Елизаветой II Коронация Чарльза состоится через несколько месяцев: как простятся с Елизаветой II

Церемония прощания с королями и королевами тщательно планируется заранее

Вокруг света
Легенды кухонь народов мира: 5 классических греческих блюд Легенды кухонь народов мира: 5 классических греческих блюд

Пусть Греция материализуется на вашей кухне!

Вокруг света
«Тайная жизнь пчел»: роман о взрослении в Америке 1960-х «Тайная жизнь пчел»: роман о взрослении в Америке 1960-х

Каково быть подростком-сиротой на американском юге в 1964 году? Отрывок из книги

Forbes
Без имени на бумаге: как Марион Махони Гриффин повлияла на архитектуру Австралии Без имени на бумаге: как Марион Махони Гриффин повлияла на архитектуру Австралии

Как Марион Махони Гриффин хотела построить рай на Земле

Forbes
Я не трус, но я боюсь: как отстаивать себя, не боясь конфликтов? Я не трус, но я боюсь: как отстаивать себя, не боясь конфликтов?

В каких случаях отстаивание себя и своих интересов перерастает в ссору?

Psychologies
«Камень века» и «Божий дар»: 7 великих бриллиантовых афер «Камень века» и «Божий дар»: 7 великих бриллиантовых афер

О самых известных аферах, связанных с драгоценными камнями

РБК
Почему мы не запоминаем все наши сны? Почему мы не запоминаем все наши сны?

Забывать сны — это нормально или нет?

ТехИнсайдер
Илья Сачков — Forbes: «Сразу после моего задержания состоялась большая вечеринка» Илья Сачков — Forbes: «Сразу после моего задержания состоялась большая вечеринка»

Илья Сачков рассказал о своих мечтах, жизни в СИЗО и возможных причинах ареста

Forbes
6 заболеваний, которые могут скрываться за обычным насморком 6 заболеваний, которые могут скрываться за обычным насморком

Часто при насморке все сразу тянутся за каплями. Но так ли все просто?

Лиза
Открыть в приложении