Компания Meta выпустила языковую модель, которая понимает устную речь

N+1Hi-Tech

Нейросеть от Meta (признана экстремистской организацией на территории РФ) узнает 4017 языков по устной речи и ответит на 1107 из них

Она обучалась на библейских текстах

Виктория Земляк

036d47669be5b6a9ee36339f7fab444e.jpg
Torre de Babel (Вавилонская башня). Pieter Brueghel the Elder / Wikimedia Commons

Компания Meta (признана экстремистской организацией на территории РФ)* выпустила языковую модель, которая понимает устную речь. Она распознает более 4000 языков и может разговаривать на 1107 из них. Meta (признана экстремистской организацией на территории РФ) считает, что модель поможет сохранить языковое разнообразие в мире. Статья опубликована на сайте компании, код модели доступен на гитхабе.

*Деятельность компании Meta запрещена в России.

Обычно модели распознавания речи обучаются на больших объемах данных: им требуются тысячи часов аудиозаписей. При этом каждой записи должен соответствовать текст, чтобы модель научилась сопоставлять звучащую и письменную речь. Такие большие датасеты можно собрать только для популярных языков, на которых говорит много людей. Всего в мире существует около 7000 языков, но современные системы распознавания речи поддерживают не более 200 из них.

Команда инженеров из компании Meta (признана экстремистской организацией на территории РФ) под руководством Майкла Аули (Michael Auli) обучила большую модель для распознавания речи Massively Multilingual Speech (MMS), которая может общаться на 1107 языках и распознавать 4017. Нейросеть обучалась на религиозных записях. Исследователи собрали два датасета: один с аудиозаписями и соответствующими текстами и второй только с аудиозаписями.

fe065aa4c134af4b7f5dca22405e1e58.jpg
Карта языков, которые поддерживает модель. Фиолетовые и зеленые: определение языка, только фиолетовые: превращение речи в текст. Auli et al. / research.facebook, 2023

Первый датасет состоит из 55 тысяч аудиозаписей, на которых люди зачитывают вслух тексты из Нового Завета. Всего в Новом Завете 27 книг и 260 глав. Данные собирали из трех источников: Faith Comes By Hearing, GoTo.Bible и YouVersion. Во второй датасет попали 7,7 тысяч часов аудиозаписей с сайта Global Recordings Network: это религиозные песни, записи отрывков из Библии и других религиозных текстов.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как бороться с повышенной тревожностью: 7 шагов к спокойствию Как бороться с повышенной тревожностью: 7 шагов к спокойствию

Рассказываем, как поставить беспокойство на место

Playboy
Палеонтологи подтвердили существование муста у мамонтов Палеонтологи подтвердили существование муста у мамонтов

Самцы мамонтов, как и современные слоны, были способны испытывать муст

N+1
Блиц-интервью: Михаил Пореченков Блиц-интервью: Михаил Пореченков

Михаил Пореченков рассказал о подготовке к новой роли и воспитанию детей

Лиза
Зачем на самом деле была построена Великая Китайская стена? Зачем на самом деле была построена Великая Китайская стена?

Интересная и загадочная история Великой Китайской стены

Maxim
«Склады — это новый черный»: инвесторы в недвижимость поверили в light industrial «Склады — это новый черный»: инвесторы в недвижимость поверили в light industrial

Сколько могут заработать инвесторы на light industrial?

Forbes
Великий грааль Антарктиды: как российские ученые пытаются проникнуть в тайны подледного озера Восток Великий грааль Антарктиды: как российские ученые пытаются проникнуть в тайны подледного озера Восток

Существует ли жизнь в озере Восток?

Вокруг света
Как Валерия Костина создала крупнейший проект по сбору старых вещей в Приморском крае Как Валерия Костина создала крупнейший проект по сбору старых вещей в Приморском крае

Почему благотворительные магазины в Приморском крае столкнулись с хейтом?

Forbes
За молоком За молоком

В выходные жена послала меня за молоком в деревню

Вокруг света
Травмы и падения Карла III: к каким видам спорта неравнодушен новый британский монарх Травмы и падения Карла III: к каким видам спорта неравнодушен новый британский монарх

Какие виды спорта выбрал для себя Карл III будучи еще принцем Чарльзом

Forbes
В неолитической керамике из Италии нашли остатки мака и оливкового масла В неолитической керамике из Италии нашли остатки мака и оливкового масла

Ученые исследовали остатки содержимого в керамических изделиях эпохи неолита

N+1
Институт благородных девиц: зачем нужны школы с раздельным обучением Институт благородных девиц: зачем нужны школы с раздельным обучением

Разбираемся во всех «за» и «против» по поводу раздельного обучения в школах

Forbes
Надо ли защищать психику животных? Интересные факты! Надо ли защищать психику животных? Интересные факты!

Целостная система оценки психического благополучия диких животных

ТехИнсайдер
Шевелить мозгами: какое будущее у нейроинтерфейсов и инвестиций в это направление Шевелить мозгами: какое будущее у нейроинтерфейсов и инвестиций в это направление

О рисках и перспективах применения технологий нейроинтерфейсов

Forbes
Скажите Скажите

Такая странная и необычная буква "ы"

ТехИнсайдер
Удаление небных миндалин оказалось эффективнее медикаментозного лечения хронического тонзиллита Удаление небных миндалин оказалось эффективнее медикаментозного лечения хронического тонзиллита

Лечение хронического тонзиллита помогает снизить риск его системных осложнений

N+1
«К свадьбе готовятся лучше, чем к зачатию»: зачем проходить перинатальный скрининг «К свадьбе готовятся лучше, чем к зачатию»: зачем проходить перинатальный скрининг

Александра Краус о том, зачем строить в Москве гостиницу для беременных

Forbes
Полина Гагарина: «Я всё больше становлюсь домоседом» Полина Гагарина: «Я всё больше становлюсь домоседом»

Певица Полина Гагарина — о секретах восстановления и своих увлечениях

Здоровье
Палки в колеса Палки в колеса

Истории из жизни мастера спорта по маунтинбайку Ивана Кунаева

Men Today
«Велнес-мания»: как Селеста Барбер дает нам очередной урок здорового отношения к телу «Велнес-мания»: как Селеста Барбер дает нам очередной урок здорового отношения к телу

«Велнес-мания»: самоироничное размышление на тему бодипозитива

Forbes
Ритуалы в день рождения: что делать, чтобы привлечь удачу на весь год Ритуалы в день рождения: что делать, чтобы привлечь удачу на весь год

День рождения — не просто дата, которая прибавляет года и полезные презенты

VOICE
«Я был готов стать отцом»: бывший муж Настасьи Самбурской высказался после рождения первенца «Я был готов стать отцом»: бывший муж Настасьи Самбурской высказался после рождения первенца

Кирилл Дыцевич рассказал, как его изменило отцовство

VOICE
ИИ не может отличить текст, написанный человеком, от текста, созданного ИИ ИИ не может отличить текст, написанный человеком, от текста, созданного ИИ

Объем текстов, созданных ИИ, становится слишком большим

ТехИнсайдер
Двойники Двойники

Почему под разными брендами встречаются такие похожие модели

Автопилот
Это не нарциссизм! Ученые выяснили, почему мы так любим селфи Это не нарциссизм! Ученые выяснили, почему мы так любим селфи

Исследование, которое позволяет посмотреть на себя со стороны

Вокруг света
Вопрос-ответ Вопрос-ответ

Откуда взялась Луна, заразен ли рак и другие вопросы

Вокруг света
Перестаньте это делать! Эксперимент показал негативные последствия ночных перекусов Перестаньте это делать! Эксперимент показал негативные последствия ночных перекусов

С помощью небольшого эксперимента ученые доказали вред приема пищи поздно ночью

ТехИнсайдер
Пещерные мурены начали терять зрение по глазу за раз Пещерные мурены начали терять зрение по глазу за раз

У некоторых особей мурен остался только правый глаз

N+1
Оставаться нельзя выбраться Оставаться нельзя выбраться

Как выйти из френдзоны

Лиза
Кому и зачем нужны топливные присадки? Кому и зачем нужны топливные присадки?

Правда ли то, что топливные присадки вредят автомобилям?

4x4 Club
Сияние чистого ужаса Сияние чистого ужаса

«Любовь и смерть»: третья экранизация невероятно киногеничного убийства топором

Weekend
Открыть в приложении