Компания Meta выпустила языковую модель, которая понимает устную речь

N+1Hi-Tech

Нейросеть от Meta (признана экстремистской организацией на территории РФ) узнает 4017 языков по устной речи и ответит на 1107 из них

Она обучалась на библейских текстах

Виктория Земляк

036d47669be5b6a9ee36339f7fab444e.jpg
Torre de Babel (Вавилонская башня). Pieter Brueghel the Elder / Wikimedia Commons

Компания Meta (признана экстремистской организацией на территории РФ)* выпустила языковую модель, которая понимает устную речь. Она распознает более 4000 языков и может разговаривать на 1107 из них. Meta (признана экстремистской организацией на территории РФ) считает, что модель поможет сохранить языковое разнообразие в мире. Статья опубликована на сайте компании, код модели доступен на гитхабе.

*Деятельность компании Meta запрещена в России.

Обычно модели распознавания речи обучаются на больших объемах данных: им требуются тысячи часов аудиозаписей. При этом каждой записи должен соответствовать текст, чтобы модель научилась сопоставлять звучащую и письменную речь. Такие большие датасеты можно собрать только для популярных языков, на которых говорит много людей. Всего в мире существует около 7000 языков, но современные системы распознавания речи поддерживают не более 200 из них.

Команда инженеров из компании Meta (признана экстремистской организацией на территории РФ) под руководством Майкла Аули (Michael Auli) обучила большую модель для распознавания речи Massively Multilingual Speech (MMS), которая может общаться на 1107 языках и распознавать 4017. Нейросеть обучалась на религиозных записях. Исследователи собрали два датасета: один с аудиозаписями и соответствующими текстами и второй только с аудиозаписями.

fe065aa4c134af4b7f5dca22405e1e58.jpg
Карта языков, которые поддерживает модель. Фиолетовые и зеленые: определение языка, только фиолетовые: превращение речи в текст. Auli et al. / research.facebook, 2023

Первый датасет состоит из 55 тысяч аудиозаписей, на которых люди зачитывают вслух тексты из Нового Завета. Всего в Новом Завете 27 книг и 260 глав. Данные собирали из трех источников: Faith Comes By Hearing, GoTo.Bible и YouVersion. Во второй датасет попали 7,7 тысяч часов аудиозаписей с сайта Global Recordings Network: это религиозные песни, записи отрывков из Библии и других религиозных текстов.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Простые советы, чтобы исправить сколиоз! Вот какие упражнения назвал эксперт Простые советы, чтобы исправить сколиоз! Вот какие упражнения назвал эксперт

Упражнения для людей со сколиозом, которые помогут с ним справиться

ТехИнсайдер
Наталия Кустинская: Почему Гайдай снял ее с роли в «Кавказской пленнице» Наталия Кустинская: Почему Гайдай снял ее с роли в «Кавказской пленнице»

Наталия Кустинская очень старалась быть образцовой женой

Караван историй
«Внимание! Говорит Москва!»: почему Гитлер всем сердцем ненавидел Юрия Левитана? «Внимание! Говорит Москва!»: почему Гитлер всем сердцем ненавидел Юрия Левитана?

Никто еще не знал, что вскоре этот зычный голос будут слушать миллионы людей

ТехИнсайдер
Миллионеры Юрского периода Миллионеры Юрского периода

Сколько стоят динозавры?

Деньги
Вставай с дивана! Гиподинамия: причины малоподвижного образа жизни и его последствия Вставай с дивана! Гиподинамия: причины малоподвижного образа жизни и его последствия

Аристотель сказал: «Движение – это жизнь, а жизнь – это движение!»

Лиза
Точечное попадание Точечное попадание

Прыщи на спине нередко сигнализируют о какой-то проблеме. Что их провоцирует?

Лиза
Кенгуру затоптали Австралию. Экологи призывают к жестким мерам по сдерживанию роста популяции Кенгуру затоптали Австралию. Экологи призывают к жестким мерам по сдерживанию роста популяции

Почему экологи призывают разрешить отстрел кенгуру

ТехИнсайдер
Покупка подержанной Mazda CX-5 Покупка подержанной Mazda CX-5

Наш нынешний герой – кроссовер Mazda CX-5

4x4 Club
На пути к крепкому и здоровому сну: 7 главных причин пробуждений по ночам и как с ними справиться На пути к крепкому и здоровому сну: 7 главных причин пробуждений по ночам и как с ними справиться

Что заставляет нас просыпаться посреди ночи?

ТехИнсайдер
Иммунолог о вспышке птичьего гриппа в Москве Иммунолог о вспышке птичьего гриппа в Москве

Что за болезнь птичий грипп и опасна ли она для человека

СНОБ
«Никто не совершенен»: если мучает вина — 5 способов справиться c этим чувством «Никто не совершенен»: если мучает вина — 5 способов справиться c этим чувством

Какие шаги предпринять, чтобы разобраться с неприятным ощущением вины?

Psychologies
Коллекция воспоминаний Коллекция воспоминаний

Современный интерьер для любителя искусства от дизайнера Александра Кононенко

SALON-Interior
Палеонтологи подтвердили существование муста у мамонтов Палеонтологи подтвердили существование муста у мамонтов

Самцы мамонтов, как и современные слоны, были способны испытывать муст

N+1
Как в России ввели сухой закон во время мобилизации и что из этого вышло Как в России ввели сухой закон во время мобилизации и что из этого вышло

Кажется, что на Руси пили всегда. Но вообще-то нет!

Maxim
«Когда все снова придет в норму?»: искусственный интеллект отвечает на 8 сложных жизненных вопросов «Когда все снова придет в норму?»: искусственный интеллект отвечает на 8 сложных жизненных вопросов

Как GPT-3 отвечает на философские вопросы о нашей жизни?

Psychologies
«Тольяттиазот» откроет новый путь российским удобрениям «Тольяттиазот» откроет новый путь российским удобрениям

«Тольяттиазот» строит первый перевалочный комплекс для аммиака и карбамида

Агроинвестор
Что такое углеводное окно и сахарное похмелье: важные вопросы о спорте и питании Что такое углеводное окно и сахарное похмелье: важные вопросы о спорте и питании

Какие продукты ускорят восстановление и почему не нужно демонизировать углеводы

Правила жизни
Аскольд Акишин Аскольд Акишин

Современный российский комикс нельзя представить без Аскольда Акишина

Правила жизни
Пассивная агрессия в отношениях: 5 основных проявлений Пассивная агрессия в отношениях: 5 основных проявлений

Как понять, что ваш партнер прибегает к пассивной агрессии?

Psychologies
Как русские авангардисты представляли будущее — в иллюстрациях от Midjourney Как русские авангардисты представляли будущее — в иллюстрациях от Midjourney

Авангардное будущее глазами нейросети

Правила жизни
Объясняем необъяснимое: почему синяки появляются на теле без причины? Объясняем необъяснимое: почему синяки появляются на теле без причины?

Появление синяков после сна — распространенное явление. Но каковы причины?

ТехИнсайдер
Как прожить свой страх осознанно: книги и фильмы от психолога Как прожить свой страх осознанно: книги и фильмы от психолога

Что значит «экологично побояться» и для чего это нужно?

Psychologies
Как добиться эффекта Как добиться эффекта

Звездные бьюти-волшебники поделились своими профессиональными секретами

VOICE
Эмоциональная зависимость Эмоциональная зависимость

Как выявить зависимость и избавиться от нее раз и навсегда?

Лиза
Красавицы 90-х: куда пропали девушки Бонда, которых ты успела забыть Красавицы 90-х: куда пропали девушки Бонда, которых ты успела забыть

Роль возлюбленной главного шпиона мира еще не дает гарантию вечной славы

VOICE
Соблазняем одним словом: как сделать свой голос привлекательным? Соблазняем одним словом: как сделать свой голос привлекательным?

Что такое привлекательный голос и как сделать свой голос лучше?

VOICE
«Мне повезло, что я остался жив»: Дольф Лундгрен впервые рассказал о тяжелой борьбе с онкологией «Мне повезло, что я остался жив»: Дольф Лундгрен впервые рассказал о тяжелой борьбе с онкологией

Дольф Лундгрен поделился шокирующими откровениями о своем здоровье

VOICE
Поразительные паразиты Поразительные паразиты

Есть в паразитах и своя пугающая красота: они изящно манипулируют хозяевами

ТехИнсайдер
Что носить в конце весны: 5 идей от героев стритстайла Что носить в конце весны: 5 идей от героев стритстайла

Модные приемы, которые одинаково подойдут и мужчинам, и женщинам

Правила жизни
Гид в кармане Гид в кармане

7 полезных приложений для путешествий по России

Лиза
Открыть в приложении