Как работают настоящие нейроморфные микросхемы

Популярная механикаHi-Tech

Компьютерный мозг

Название это уже привычное, хотя на самом деле вычислительные системы устроены совсем иначе. Настоящие нейроморфные микросхемы появились лишь в последнее десятилетие, обещая быструю работу нейросетей и энергопотребление почти столь же низкое, как у живого мозга.

Текст: Роман Фишман

В конце 2019 года разработчики из OpenAI продемонстрировали роботизированный манипулятор Dactyl, отличающийся «ловкостью человеческого уровня». Работой пяти металлических пальцев управляла нейросеть, способная самостоятельно обучаться движения и даже освоившая головоломный кубик Рубика. Для ее подготовки использовали больше тысячи настольных компьютеров и десятки мощных графических систем. Как подсчитали впоследствии эксперты, на них было затрачено около 2,8 ГВт∙ч энергии – количество, которое требует нескольких часов работы целой АЭС.

Для обучения нейросети нужно проанализировать огромные массивы данных – чем больше, тем лучше. На это могут уходить дни и даже недели работы высокопроизводительных и «прожорливых» компьютерных систем. В результате потребности нейросетей в вычислительных мощностях растут быстрее, чем сами эти мощности, обгоняя даже знаменитый закон Мура. По некоторым подсчетам, в 2018 году значительный прогресс в этой области требовал в 300 тыс. раз больше ресурсов, чем в 2012-м, удваиваясь каждые три-четыре месяца. А с увеличением мощностей растут и затраты энергии.

Умножение ядер

При таких вычислениях на компьютер поступает входная информация и наборы коэффициентов – весов, полученных в ходе обучения нейросети. Перемножая векторные данные и матрицы весов последовательно, сеть может с определенной вероятностью выдать правильный ответ – например, заключить с уверенностью 99,99%, что на предъявленном ей изображении показана кошка. Проблема в том, что объемы связанных с этим расчетов колоссальны: мощные глубокие нейросети могут использовать миллионы и миллиарды коэффициентов, а для их обучения требуются терабайты данных.

В итоге важную роль здесь стали играть графические процессоры, которые разрабатывались для похожих операций. Отрисовка трехмерных изображений в режиме реального времени требует несложных, но массовых и быстрых параллельных операций над каждым пикселем. Поэтому, в отличие от основного процессора, видеокарты состоят из тысяч упрощенных вычислительных ядер. Проводя триллионы операций с плавающей точкой в секунду (терафлопс), они с успехом справляются и с нейросетями.

Этот тренд развивают специализированные тензорные процессоры, такие как Google TPU, состоящие уже из десятков тысяч крошечных ядер. Производительность третьего поколения Google TPU составляет целых 420 терафлопс, причем эти процессоры легко объединяются в кластеры. Заявляется, что именно такие микросхемы применялись системой AlphaGo, обыгравшей людей-соперников в го, они же используются для обработки фотографий Google Street View. Однако существует и совершенно иной подход, который предлагают нейроморфные микросхемы, построенные по другой архитектуре.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Art&Science Art&Science

Можно ли объединить науку и искусство

Популярная механика
Что нужно знать о Маргерит Литтман — светской даме, активистке и прототипе героини Одри Хепберн Что нужно знать о Маргерит Литтман — светской даме, активистке и прототипе героини Одри Хепберн

Именно она вдохновила Трумена Капоте на историю «Завтрака у Тиффани»

Esquire
Киберпанк-2021 Киберпанк-2021

Проект нового направления в музыкальной индустрии родился на стыке технологий

Популярная механика
Прокачай себя! Тренировка c REBOOT LIVE #11. Кардиопрограмма Fullbody Прокачай себя! Тренировка c REBOOT LIVE #11. Кардиопрограмма Fullbody

Одиннадцатая тренировка из цикла Rebbot: кардиопрограмма

Maxim
Как безумный Майк Хьюз отправился за славой и погиб Как безумный Майк Хьюз отправился за славой и погиб

Пустыня Мохаве что-то шептала в темноте, пока Безумный Майк готовился к полету

Популярная механика
Охота на должников. Несколько историй от ГИБДД о злостных нарушителях Охота на должников. Несколько историй от ГИБДД о злостных нарушителях

ГИБДД отрыла охоту на злостных неплательщиков штрафов

РБК
Голоса. Как учат разговаривать голосовые помощники Голоса. Как учат разговаривать голосовые помощники

Как из машины делают личность

Популярная механика
Минусовая степень Минусовая степень

Как ухаживать за кожей лица и тела после похудения?

Лиза
Турецкий марш Турецкий марш

Военная мощь Турции неожиданно оказалась предметом большого интереса

Популярная механика
7 фактов о техасском Мэттью по фамилии Макконахи 7 фактов о техасском Мэттью по фамилии Макконахи

Путешественник по черным дырам и настоящий детектив Мэттью Макконахи

Maxim
На понятном языке На понятном языке

Как появился Kotlin, и правда ли, что он идеален для программирования

Популярная механика
Что делать, если сегодня тебе совсем не хочется работать? 4 способа вернуть трудовой настрой Что делать, если сегодня тебе совсем не хочется работать? 4 способа вернуть трудовой настрой

Давай, у тебя получится справиться и вернуть себе желание работать!

Playboy
Триумф 57 мм Триумф 57 мм

Новое слово в разработке российских бронемашин

Популярная механика
Одевает Цукерберга, запрещает перерабатывать и реставрирует города: история основателя бренда Brunello Cucinelli Одевает Цукерберга, запрещает перерабатывать и реставрирует города: история основателя бренда Brunello Cucinelli

Итальянский дизайнер заработал состояние в $1,4 млрд

VC.RU
Иллюзия успеха Иллюзия успеха

Четыре истории о талантливых мастерах пускать пыль в глаза

Популярная механика
Женщины и работа: были ли времена, когда мы бездельничали? Женщины и работа: были ли времена, когда мы бездельничали?

Почему нам не стоит грустить о временах, когда женщины не работали

Cosmopolitan
Как полюбить будущее и не сойти с ума Как полюбить будущее и не сойти с ума

Артемий Лебедев в российском интернете, как Пелевин – в русской литературе

Популярная механика
Роберт Фальк. Случайная встреча Роберт Фальк. Случайная встреча

Таких черных туч над Фальком не сгущалось даже после возвращения из Парижа

Караван историй
Новая «Арктика» Новая «Арктика»

Атомоходы ЛК-60Я заменят ледоколы прошлых поколений

Популярная механика
Танцы со звездами Танцы со звездами

Выставка «Сесил Битон и культ звезд», посвященная великому фотографу моды

Vogue
Античный герой Античный герой

Кого люди будут вспоминать через столетия?

Популярная механика
У Гугла за пазухой: во что вкладывают деньги корпорации и какое будущее они нам готовят У Гугла за пазухой: во что вкладывают деньги корпорации и какое будущее они нам готовят

Когда в мире восстанут машины, получится, что мы сами это оплатили

Maxim
Силой мысли, или что обещает нам Илон Маск Силой мысли, или что обещает нам Илон Маск

Чего же Маск хотел в сфере нейроинтерфейсов, что сделал и что сможет сделать

Популярная механика
Нефертити и Мария-Антуанетта: дизайнер показал, как они выглядели бы сейчас Нефертити и Мария-Антуанетта: дизайнер показал, как они выглядели бы сейчас

Тебе было интересно, как выглядели бы исторические личности, живи они сейчас?

Cosmopolitan
Микробы от похмелья Микробы от похмелья

Бактерии, которые способны утилизировать алкогольный токсин в кишечнике

Популярная механика
6 причин, почему ты устал, но не можешь уснуть (кофе может быть ни при чем) 6 причин, почему ты устал, но не можешь уснуть (кофе может быть ни при чем)

Описываем самые частые причины появления синдрома задержки сна

Playboy
Миры миров Миры миров

Как стать президентом в мультивселенной

Популярная механика
20 ошибок при самостоятельном окрашивании волос, которых легко избежать 20 ошибок при самостоятельном окрашивании волос, которых легко избежать

Что греха таить: все мы периодически красим (и портим) волосы дома

Cosmopolitan
К баллистическому будущему К баллистическому будущему

Траектория движения космических аппаратов строится с учетом разных соображений

Популярная механика
Новая домашняя подъемная машина Новая домашняя подъемная машина

Наши города и здания часто напоминают полосу препятствий

Наука и жизнь
Открыть в приложении