Как работают настоящие нейроморфные микросхемы

Популярная механикаHi-Tech

Компьютерный мозг

Название это уже привычное, хотя на самом деле вычислительные системы устроены совсем иначе. Настоящие нейроморфные микросхемы появились лишь в последнее десятилетие, обещая быструю работу нейросетей и энергопотребление почти столь же низкое, как у живого мозга.

Текст: Роман Фишман

В конце 2019 года разработчики из OpenAI продемонстрировали роботизированный манипулятор Dactyl, отличающийся «ловкостью человеческого уровня». Работой пяти металлических пальцев управляла нейросеть, способная самостоятельно обучаться движения и даже освоившая головоломный кубик Рубика. Для ее подготовки использовали больше тысячи настольных компьютеров и десятки мощных графических систем. Как подсчитали впоследствии эксперты, на них было затрачено около 2,8 ГВт∙ч энергии – количество, которое требует нескольких часов работы целой АЭС.

Для обучения нейросети нужно проанализировать огромные массивы данных – чем больше, тем лучше. На это могут уходить дни и даже недели работы высокопроизводительных и «прожорливых» компьютерных систем. В результате потребности нейросетей в вычислительных мощностях растут быстрее, чем сами эти мощности, обгоняя даже знаменитый закон Мура. По некоторым подсчетам, в 2018 году значительный прогресс в этой области требовал в 300 тыс. раз больше ресурсов, чем в 2012-м, удваиваясь каждые три-четыре месяца. А с увеличением мощностей растут и затраты энергии.

Умножение ядер

При таких вычислениях на компьютер поступает входная информация и наборы коэффициентов – весов, полученных в ходе обучения нейросети. Перемножая векторные данные и матрицы весов последовательно, сеть может с определенной вероятностью выдать правильный ответ – например, заключить с уверенностью 99,99%, что на предъявленном ей изображении показана кошка. Проблема в том, что объемы связанных с этим расчетов колоссальны: мощные глубокие нейросети могут использовать миллионы и миллиарды коэффициентов, а для их обучения требуются терабайты данных.

В итоге важную роль здесь стали играть графические процессоры, которые разрабатывались для похожих операций. Отрисовка трехмерных изображений в режиме реального времени требует несложных, но массовых и быстрых параллельных операций над каждым пикселем. Поэтому, в отличие от основного процессора, видеокарты состоят из тысяч упрощенных вычислительных ядер. Проводя триллионы операций с плавающей точкой в секунду (терафлопс), они с успехом справляются и с нейросетями.

Этот тренд развивают специализированные тензорные процессоры, такие как Google TPU, состоящие уже из десятков тысяч крошечных ядер. Производительность третьего поколения Google TPU составляет целых 420 терафлопс, причем эти процессоры легко объединяются в кластеры. Заявляется, что именно такие микросхемы применялись системой AlphaGo, обыгравшей людей-соперников в го, они же используются для обработки фотографий Google Street View. Однако существует и совершенно иной подход, который предлагают нейроморфные микросхемы, построенные по другой архитектуре.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Маломощные реакторы спасут мирный атом Маломощные реакторы спасут мирный атом

Репутация – главная проблема атомной энергетики в XXI веке

Популярная механика
Чем занимаются специалисты института Pantone и зачем они выбирают главный цвет года Чем занимаются специалисты института Pantone и зачем они выбирают главный цвет года

Институту Pantone принадлежат все цвета и оттенки, которые вы когда-либо видели

GQ
Армия 2020 Армия 2020

Ежегодная выставка «Армия» в парке «Патриот»

Популярная механика
Безопасный тренд: как промышленники используют интернет вещей Безопасный тренд: как промышленники используют интернет вещей

Цифровизация производства дает промышленным компаниям колоссальные эффекты

Forbes
Человек, который придумывает будущее Человек, который придумывает будущее

Компания с российскими корнями разрабатывает уникальные технологии для авто

Популярная механика
Как зависть помогает заботиться о себе: 5 шагов Как зависть помогает заботиться о себе: 5 шагов

Как использовать зависть себе во благо

Psychologies
Никогда такого не было Никогда такого не было

Самый большой неатомный ледокол России может крутиться на месте

Популярная механика
Энергетическая независимость: зачем России производить свои газовые турбины Энергетическая независимость: зачем России производить свои газовые турбины

Впервые в истории страны появится полностью своя газовая турбина

Inc.
Как полюбить будущее и не сойти с ума Как полюбить будущее и не сойти с ума

Артемий Лебедев в российском интернете, как Пелевин – в русской литературе

Популярная механика
Это все гены: правда ли, что плохие зубы — наследственность? Это все гены: правда ли, что плохие зубы — наследственность?

Может ли плохая наследственность стать причиной дентальных проблем?

Psychologies
Созвездие рекламы Созвездие рекламы

Почему разработчики ионных двигателей занялись проектом космической рекламы

Популярная механика
Краткая история кнопки Turbo на древних компьютерах Краткая история кнопки Turbo на древних компьютерах

Даже в компьютерном деле плохо, когда слишком быстро!

Maxim
Античный герой Античный герой

Кого люди будут вспоминать через столетия?

Популярная механика
Playboy подводит итоги года Playboy подводит итоги года

Всё, что нас удивило в уходящем году: события радостные, трагичные, курьезные

Playboy
Силой мысли, или что обещает нам Илон Маск Силой мысли, или что обещает нам Илон Маск

Чего же Маск хотел в сфере нейроинтерфейсов, что сделал и что сможет сделать

Популярная механика
Танцевала перед Scorpions: как Екатерина Шпица стала актрисой Танцевала перед Scorpions: как Екатерина Шпица стала актрисой

10 неожиданных фактов об актрисе Екатерине Шпице

Cosmopolitan
Гидрофойл для миллионов Гидрофойл для миллионов

Гидрофойл – доска на подводных крыльях для серфинга

Популярная механика
Материнское выгорание: личная история и 10 шагов для его профилактики Материнское выгорание: личная история и 10 шагов для его профилактики

Как справиться с материнским выгоранием

Psychologies
Восток и его обитатели Восток и его обитатели

В озере Восток под ледовым щитом Антарктиды есть жизнь

Популярная механика
Как носить пальто поверх теплой одежды и небрежно повязывать шарф — учимся у Венсана Касселя Как носить пальто поверх теплой одежды и небрежно повязывать шарф — учимся у Венсана Касселя

Венсан Кассель — мастер непринужденных, расслабленных, даже небрежных образов

Esquire
Меняю автомат на беспилотник Меняю автомат на беспилотник

Первое боестолкновение, где решающую роль сыграли беспилотные дроны

Популярная механика
«Отыграть назад» с Николь Кидман и Хью Грантом: богатые снова плачут «Отыграть назад» с Николь Кидман и Хью Грантом: богатые снова плачут

«Отыграть назад» — детектив, приправленный классовой ненавистью

Esquire
Используй ложку и телефон: 20 способов доставить себе удовольствие Используй ложку и телефон: 20 способов доставить себе удовольствие

Двадцать разных способов мастурбации на любой вкус и цвет

Cosmopolitan
Пангея завтрашнего дня: могут ли континенты снова объединиться Пангея завтрашнего дня: могут ли континенты снова объединиться

Пангея – не единственный суперконтинент в истории Земли

Популярная механика
Нечеловеческий секс Нечеловеческий секс

Почему мы все еще занимаемся сексом по старинке – с живыми людьми?

Популярная механика
Человек «растроенный»: как и чем живет группа OQJAV Человек «растроенный»: как и чем живет группа OQJAV

Мы поговорили с группой OQJAV о том, как все устроено в их трио

РБК
За кулисами пуска За кулисами пуска

Старт космической ракеты – зрелище без преувеличения грандиозное

Популярная механика
Сексуальный абьюз: как предупредить ребенка об опасности Сексуальный абьюз: как предупредить ребенка об опасности

Как говорить с детьми о сексуальном абьюзе? Рассказывает психотерапевт

Psychologies
Как безумный Майк Хьюз отправился за славой и погиб Как безумный Майк Хьюз отправился за славой и погиб

Пустыня Мохаве что-то шептала в темноте, пока Безумный Майк готовился к полету

Популярная механика
5 трогательных фактов про крокодилов 5 трогательных фактов про крокодилов

Пять увлекательных фактов, после которых ты начнешь уважать крокодилов

Maxim
Открыть в приложении