Как работают настоящие нейроморфные микросхемы

Популярная механикаHi-Tech

Компьютерный мозг

Название это уже привычное, хотя на самом деле вычислительные системы устроены совсем иначе. Настоящие нейроморфные микросхемы появились лишь в последнее десятилетие, обещая быструю работу нейросетей и энергопотребление почти столь же низкое, как у живого мозга.

Текст: Роман Фишман

В конце 2019 года разработчики из OpenAI продемонстрировали роботизированный манипулятор Dactyl, отличающийся «ловкостью человеческого уровня». Работой пяти металлических пальцев управляла нейросеть, способная самостоятельно обучаться движения и даже освоившая головоломный кубик Рубика. Для ее подготовки использовали больше тысячи настольных компьютеров и десятки мощных графических систем. Как подсчитали впоследствии эксперты, на них было затрачено около 2,8 ГВт∙ч энергии – количество, которое требует нескольких часов работы целой АЭС.

Для обучения нейросети нужно проанализировать огромные массивы данных – чем больше, тем лучше. На это могут уходить дни и даже недели работы высокопроизводительных и «прожорливых» компьютерных систем. В результате потребности нейросетей в вычислительных мощностях растут быстрее, чем сами эти мощности, обгоняя даже знаменитый закон Мура. По некоторым подсчетам, в 2018 году значительный прогресс в этой области требовал в 300 тыс. раз больше ресурсов, чем в 2012-м, удваиваясь каждые три-четыре месяца. А с увеличением мощностей растут и затраты энергии.

Умножение ядер

При таких вычислениях на компьютер поступает входная информация и наборы коэффициентов – весов, полученных в ходе обучения нейросети. Перемножая векторные данные и матрицы весов последовательно, сеть может с определенной вероятностью выдать правильный ответ – например, заключить с уверенностью 99,99%, что на предъявленном ей изображении показана кошка. Проблема в том, что объемы связанных с этим расчетов колоссальны: мощные глубокие нейросети могут использовать миллионы и миллиарды коэффициентов, а для их обучения требуются терабайты данных.

В итоге важную роль здесь стали играть графические процессоры, которые разрабатывались для похожих операций. Отрисовка трехмерных изображений в режиме реального времени требует несложных, но массовых и быстрых параллельных операций над каждым пикселем. Поэтому, в отличие от основного процессора, видеокарты состоят из тысяч упрощенных вычислительных ядер. Проводя триллионы операций с плавающей точкой в секунду (терафлопс), они с успехом справляются и с нейросетями.

Этот тренд развивают специализированные тензорные процессоры, такие как Google TPU, состоящие уже из десятков тысяч крошечных ядер. Производительность третьего поколения Google TPU составляет целых 420 терафлопс, причем эти процессоры легко объединяются в кластеры. Заявляется, что именно такие микросхемы применялись системой AlphaGo, обыгравшей людей-соперников в го, они же используются для обработки фотографий Google Street View. Однако существует и совершенно иной подход, который предлагают нейроморфные микросхемы, построенные по другой архитектуре.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Верхом на вихре Верхом на вихре

Возможное будущее гражданской авиации

Популярная механика
Мыльная опера королевского ранга: рассказываем о четвертом сезоне Мыльная опера королевского ранга: рассказываем о четвертом сезоне

Четвертый сезон «Короны» — 1980, Маргарет Тэтчер и принцесса Уэльская Диана

Esquire
Очень тяжелые носители Очень тяжелые носители

Прототипы будущей сверхтяжелой ракеты Starship продолжают испытания

Популярная механика
Жанна Бадоева: «В моей жизни отсутствует понятие ”вредная еда”» Жанна Бадоева: «В моей жизни отсутствует понятие ”вредная еда”»

Подробности обычной жизни Жанны Бадоевой

Худеем правильно
Знай наших Знай наших

Уникальные достижения отечественных ученых

Популярная механика
Мороз по коже: что мы чувствуем в присутствии опасных людей? Мороз по коже: что мы чувствуем в присутствии опасных людей?

Стоит ли отмахиваться от реакций своего тела на присутствие других людей?

Psychologies
11 способов становиться немного умнее каждый день 11 способов становиться немного умнее каждый день

Интеллект, как и тело, требует правильного питания и регулярных тренировок

Psychologies
Богатырское здоровье: самые крепкие знаки зодиака Богатырское здоровье: самые крепкие знаки зодиака

Какой знак зодиака самый крепкий и как улучшить здоровье тем, кому не повезло

Cosmopolitan
Ниже солнца, выше воды Ниже солнца, выше воды

Беспилотное судно с почти неограниченным запасом хода

Популярная механика
Как сложились судьбы детей свергнутых (или просто умерших) диктаторов современности Как сложились судьбы детей свергнутых (или просто умерших) диктаторов современности

Мурад Ниязов, Гульнара Каримова, Николае Чаушеску-младший — где они теперь?

Maxim
Восток и его обитатели Восток и его обитатели

В озере Восток под ледовым щитом Антарктиды есть жизнь

Популярная механика
Матери площади Мая Матери площади Мая

Как матери исчезнувших оппозиционеров организовали акцию бессрочного протеста

Дилетант
Человек, который придумывает будущее Человек, который придумывает будущее

Компания с российскими корнями разрабатывает уникальные технологии для авто

Популярная механика
Как избежать ошибок с широкими брюками: модные правила от стилиста Как избежать ошибок с широкими брюками: модные правила от стилиста

Стилист объясняет, как носить брюки-палаццо

Cosmopolitan
Нечеловеческий секс Нечеловеческий секс

Почему мы все еще занимаемся сексом по старинке – с живыми людьми?

Популярная механика
«В общении рождается энергия» «В общении рождается энергия»

Ольга Сыроватская — об амбициозных планах и любви к жизни

OK!
Микробы от похмелья Микробы от похмелья

Бактерии, которые способны утилизировать алкогольный токсин в кишечнике

Популярная механика
21 способ сосредоточиться 21 способ сосредоточиться

Навыки концентрации внимания необходимы и в личной, и в профессиональной жизни

Psychologies
Античный герой Античный герой

Кого люди будут вспоминать через столетия?

Популярная механика
Гедимин и его потомки Гедимин и его потомки

Все правители Москвы со времён Василия I были потомками литовских князей

Дилетант
Пространство новых материалов Пространство новых материалов

Как один ученый придумал альтернативу таблице Менделеева

Популярная механика
Нейроны расширенной миндалины заставили мышей поволноваться Нейроны расширенной миндалины заставили мышей поволноваться

Связь нейронов расширенной миндалины и процесса эмоционального возбуждения

N+1
Лучше, чем жизнь Лучше, чем жизнь

Традиционно самыми ресурсоемкими считались спецэффекты для кино

Популярная механика
Мог ли мегалодон надвое перекусить судно Мог ли мегалодон надвое перекусить судно

Главный герой этого фильма — невероятная ископаемая акула, мегалодон

Популярная механика
Огнем и волной Огнем и волной

3D-печать на сегодня – один из столпов мирового технического прогресса

Популярная механика
Величайший арт-директор Esquire Джордж Лоис: от big idea к большому стилю Величайший арт-директор Esquire Джордж Лоис: от big idea к большому стилю

Самые знаменитые обложки Джорджа Лоиса и его влияние на мировую культуру

Esquire
Как полюбить будущее и не сойти с ума Как полюбить будущее и не сойти с ума

Артемий Лебедев в российском интернете, как Пелевин – в русской литературе

Популярная механика
«Один или два середнячка в команде расхолаживают всех»: миллиардер и CEO Netflix Рид Хастингс о том, как создать сверхэффективную команду «Один или два середнячка в команде расхолаживают всех»: миллиардер и CEO Netflix Рид Хастингс о том, как создать сверхэффективную команду

Отрывок из книги про Netflix о том, как собрать коллектив мечты

Forbes
Гора серебряная Гора серебряная

Как добывают благородные металлы

Популярная механика
Отрывок из книги «Зачем мы стареем» Отрывок из книги «Зачем мы стареем»

Отрывок из книги «Зачем мы стареем. Наука о долголетии: как продлить молодость»

СНОБ
Открыть в приложении