Как работают настоящие нейроморфные микросхемы

Популярная механикаHi-Tech

Компьютерный мозг

Название это уже привычное, хотя на самом деле вычислительные системы устроены совсем иначе. Настоящие нейроморфные микросхемы появились лишь в последнее десятилетие, обещая быструю работу нейросетей и энергопотребление почти столь же низкое, как у живого мозга.

Текст: Роман Фишман

В конце 2019 года разработчики из OpenAI продемонстрировали роботизированный манипулятор Dactyl, отличающийся «ловкостью человеческого уровня». Работой пяти металлических пальцев управляла нейросеть, способная самостоятельно обучаться движения и даже освоившая головоломный кубик Рубика. Для ее подготовки использовали больше тысячи настольных компьютеров и десятки мощных графических систем. Как подсчитали впоследствии эксперты, на них было затрачено около 2,8 ГВт∙ч энергии – количество, которое требует нескольких часов работы целой АЭС.

Для обучения нейросети нужно проанализировать огромные массивы данных – чем больше, тем лучше. На это могут уходить дни и даже недели работы высокопроизводительных и «прожорливых» компьютерных систем. В результате потребности нейросетей в вычислительных мощностях растут быстрее, чем сами эти мощности, обгоняя даже знаменитый закон Мура. По некоторым подсчетам, в 2018 году значительный прогресс в этой области требовал в 300 тыс. раз больше ресурсов, чем в 2012-м, удваиваясь каждые три-четыре месяца. А с увеличением мощностей растут и затраты энергии.

Умножение ядер

При таких вычислениях на компьютер поступает входная информация и наборы коэффициентов – весов, полученных в ходе обучения нейросети. Перемножая векторные данные и матрицы весов последовательно, сеть может с определенной вероятностью выдать правильный ответ – например, заключить с уверенностью 99,99%, что на предъявленном ей изображении показана кошка. Проблема в том, что объемы связанных с этим расчетов колоссальны: мощные глубокие нейросети могут использовать миллионы и миллиарды коэффициентов, а для их обучения требуются терабайты данных.

В итоге важную роль здесь стали играть графические процессоры, которые разрабатывались для похожих операций. Отрисовка трехмерных изображений в режиме реального времени требует несложных, но массовых и быстрых параллельных операций над каждым пикселем. Поэтому, в отличие от основного процессора, видеокарты состоят из тысяч упрощенных вычислительных ядер. Проводя триллионы операций с плавающей точкой в секунду (терафлопс), они с успехом справляются и с нейросетями.

Этот тренд развивают специализированные тензорные процессоры, такие как Google TPU, состоящие уже из десятков тысяч крошечных ядер. Производительность третьего поколения Google TPU составляет целых 420 терафлопс, причем эти процессоры легко объединяются в кластеры. Заявляется, что именно такие микросхемы применялись системой AlphaGo, обыгравшей людей-соперников в го, они же используются для обработки фотографий Google Street View. Однако существует и совершенно иной подход, который предлагают нейроморфные микросхемы, построенные по другой архитектуре.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Верхом на вихре Верхом на вихре

Возможное будущее гражданской авиации

Популярная механика
Маркетинг 3.0 Маркетинг 3.0

От продуктов к потребителям и далее – к человеческой душе

kiozk originals
Человек, который придумывает будущее Человек, который придумывает будущее

Компания с российскими корнями разрабатывает уникальные технологии для авто

Популярная механика
Найдена странная галактика, продолжающая порождать звезды вопреки чудовищной черной дыре в центре Найдена странная галактика, продолжающая порождать звезды вопреки чудовищной черной дыре в центре

Эта галактика сумела продолжить образование новых звезд

Популярная механика
Как безумный Майк Хьюз отправился за славой и погиб Как безумный Майк Хьюз отправился за славой и погиб

Пустыня Мохаве что-то шептала в темноте, пока Безумный Майк готовился к полету

Популярная механика
Тайны брянского Лас-Вегаса Тайны брянского Лас-Вегаса

Кто стоит за самым загадочным букмекером на российском рынке

Forbes
В ожидании космического отпуска В ожидании космического отпуска

Самые реальные варианты космического туризма

Популярная механика
История ярмарок в России История ярмарок в России

Как менялись развлечения — от забав скоморохов с медведями до концертов Шаляпина

Культура.РФ
Истребитель дронов Истребитель дронов

Российская компания представила первый в мире беспилотный истребитель дронов

Популярная механика
Олег Ставицкий: «ВОЗ объявила эпидемию недосыпа – это огромная проблема» Олег Ставицкий: «ВОЗ объявила эпидемию недосыпа – это огромная проблема»

Создатель Endel о коллаборации с Граймс

GQ
Новая «Арктика» Новая «Арктика»

Атомоходы ЛК-60Я заменят ледоколы прошлых поколений

Популярная механика
«Волге» — 64 года. Раскрываем все секреты культовой модели «Волге» — 64 года. Раскрываем все секреты культовой модели

Китайский двойник, особая версия для спецслужб и другие тайны Волги

РБК
Огнем и волной Огнем и волной

3D-печать на сегодня – один из столпов мирового технического прогресса

Популярная механика
Как избежать ошибок с широкими брюками: модные правила от стилиста Как избежать ошибок с широкими брюками: модные правила от стилиста

Стилист объясняет, как носить брюки-палаццо

Cosmopolitan
Art&Science Art&Science

Можно ли объединить науку и искусство

Популярная механика
Батальон «Царица Тамара»: последнее европейское сражение Второй мировой войны Батальон «Царица Тамара»: последнее европейское сражение Второй мировой войны

Бой на острове Тексел стал апофеозом безумия войны

Maxim
Пространство новых материалов Пространство новых материалов

Как один ученый придумал альтернативу таблице Менделеева

Популярная механика
Объекты в космосе ближе, чем они кажутся: как Земля оказалась на 2000 световых лет ближе к черной дыре Объекты в космосе ближе, чем они кажутся: как Земля оказалась на 2000 световых лет ближе к черной дыре

Астрономы пересмотрели шкалу расстояний в нашей галактике

Forbes
Русские гонки Русские гонки

Первый Кубок России по авиагонкам прошел 19 сентября в Орешково

Популярная механика
Специальная номинация «Настоящий герой сериалов 2020 года» от more.tv: Константин Богомолов Специальная номинация «Настоящий герой сериалов 2020 года» от more.tv: Константин Богомолов

Константин Богомолов в кадре, за кадром, на сцене и в реальной жизни

GQ
Микробы от похмелья Микробы от похмелья

Бактерии, которые способны утилизировать алкогольный токсин в кишечнике

Популярная механика
35 лет ОС Windows: история голубого экрана смерти 35 лет ОС Windows: история голубого экрана смерти

Откуда взялся тот самый голубой экран смерти, который никто не любит

Maxim
Робот – лучший повар Робот – лучший повар

Намучившись с самодеятельной кулинарией, он решил поручить эти заботы технике

Популярная механика
Героини нашего времени Героини нашего времени

Истории выдающихся женщин, которые смело меняют мир вокруг себя

Лиза
За урожаем из глубин За урожаем из глубин

На разных верфях страны бум рыбопромыслового судостроения

Популярная механика
Человек «растроенный»: как и чем живет группа OQJAV Человек «растроенный»: как и чем живет группа OQJAV

Мы поговорили с группой OQJAV о том, как все устроено в их трио

РБК
К баллистическому будущему К баллистическому будущему

Траектория движения космических аппаратов строится с учетом разных соображений

Популярная механика
Бактерии добыли редкоземельные металлы из базальта на борту МКС Бактерии добыли редкоземельные металлы из базальта на борту МКС

Принципиальная возможность биомайнинга за пределами Земли

N+1
Радио против видео Радио против видео

Автоматическая посадка крылатого летательного аппарата давно уже не фантастика

Популярная механика
«Как, мол, я могу снимать кино про такого токсичного дядьку» «Как, мол, я могу снимать кино про такого токсичного дядьку»

Режиссер Роман Супер — как был придуман и сделан байопик Эдуарда Успенского

Weekend
Открыть в приложении