Как работают настоящие нейроморфные микросхемы

Популярная механикаHi-Tech

Компьютерный мозг

Название это уже привычное, хотя на самом деле вычислительные системы устроены совсем иначе. Настоящие нейроморфные микросхемы появились лишь в последнее десятилетие, обещая быструю работу нейросетей и энергопотребление почти столь же низкое, как у живого мозга.

Текст: Роман Фишман

В конце 2019 года разработчики из OpenAI продемонстрировали роботизированный манипулятор Dactyl, отличающийся «ловкостью человеческого уровня». Работой пяти металлических пальцев управляла нейросеть, способная самостоятельно обучаться движения и даже освоившая головоломный кубик Рубика. Для ее подготовки использовали больше тысячи настольных компьютеров и десятки мощных графических систем. Как подсчитали впоследствии эксперты, на них было затрачено около 2,8 ГВт∙ч энергии – количество, которое требует нескольких часов работы целой АЭС.

Для обучения нейросети нужно проанализировать огромные массивы данных – чем больше, тем лучше. На это могут уходить дни и даже недели работы высокопроизводительных и «прожорливых» компьютерных систем. В результате потребности нейросетей в вычислительных мощностях растут быстрее, чем сами эти мощности, обгоняя даже знаменитый закон Мура. По некоторым подсчетам, в 2018 году значительный прогресс в этой области требовал в 300 тыс. раз больше ресурсов, чем в 2012-м, удваиваясь каждые три-четыре месяца. А с увеличением мощностей растут и затраты энергии.

Умножение ядер

При таких вычислениях на компьютер поступает входная информация и наборы коэффициентов – весов, полученных в ходе обучения нейросети. Перемножая векторные данные и матрицы весов последовательно, сеть может с определенной вероятностью выдать правильный ответ – например, заключить с уверенностью 99,99%, что на предъявленном ей изображении показана кошка. Проблема в том, что объемы связанных с этим расчетов колоссальны: мощные глубокие нейросети могут использовать миллионы и миллиарды коэффициентов, а для их обучения требуются терабайты данных.

В итоге важную роль здесь стали играть графические процессоры, которые разрабатывались для похожих операций. Отрисовка трехмерных изображений в режиме реального времени требует несложных, но массовых и быстрых параллельных операций над каждым пикселем. Поэтому, в отличие от основного процессора, видеокарты состоят из тысяч упрощенных вычислительных ядер. Проводя триллионы операций с плавающей точкой в секунду (терафлопс), они с успехом справляются и с нейросетями.

Этот тренд развивают специализированные тензорные процессоры, такие как Google TPU, состоящие уже из десятков тысяч крошечных ядер. Производительность третьего поколения Google TPU составляет целых 420 терафлопс, причем эти процессоры легко объединяются в кластеры. Заявляется, что именно такие микросхемы применялись системой AlphaGo, обыгравшей людей-соперников в го, они же используются для обработки фотографий Google Street View. Однако существует и совершенно иной подход, который предлагают нейроморфные микросхемы, построенные по другой архитектуре.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Винтокрыл против конвертоплана Винтокрыл против конвертоплана

«Вертолет» не самый подходящий термин для описания этих воздушных монстров

Популярная механика
Как с помощью трёх документов предотвратить корпоративный конфликт и потерю бизнеса Как с помощью трёх документов предотвратить корпоративный конфликт и потерю бизнеса

Как минимизировать вероятность корпоративного конфликта в компании?

Inc.
Цифровое бессмертие Цифровое бессмертие

Sensorium Galaxy – VR-платформа, которая способна преобразить нашу жизнь

Популярная механика
Принцесса на войне Принцесса на войне

О норвежской истории Второй мировой в сериале «Пересекая Атлантику»

Weekend
...Бегом под парусом ...Бегом под парусом

Кубок «Америки» – 2021 и гонка бегущих яхт

Популярная механика
Реформы сверху Реформы сверху

Кто и зачем устроил цветную революцию

Vogue
С места наверх С места наверх

Настоящая история человека, который первым на Земле просто взял и полетел

Популярная механика
Лик Луны. Отрывок из книги Оливера Мортона Лик Луны. Отрывок из книги Оливера Мортона

Глава из книги Оливера Мортона «Луна. История будущего»

СНОБ
Чем мы дышим Чем мы дышим

Как оцифровать весь воздух в городах

Популярная механика
8 типичных ошибок при выборе белья, которые ты хоть раз совершала 8 типичных ошибок при выборе белья, которые ты хоть раз совершала

Нижнее белье нужно подбирать с умом

Cosmopolitan
Алгоритмические войны Алгоритмические войны

Как битвы будущего видят по ту сторону океана

Популярная механика
Сказки на ночь: 19 книг, которые помогут ребенку уснуть Сказки на ночь: 19 книг, которые помогут ребенку уснуть

Любимые книги, которые стоит читать перед сном

Seasons of life
На понятном языке На понятном языке

Как появился Kotlin, и правда ли, что он идеален для программирования

Популярная механика
Величайший арт-директор Esquire Джордж Лоис: от big idea к большому стилю Величайший арт-директор Esquire Джордж Лоис: от big idea к большому стилю

Самые знаменитые обложки Джорджа Лоиса и его влияние на мировую культуру

Esquire
Человек, который придумывает будущее Человек, который придумывает будущее

Компания с российскими корнями разрабатывает уникальные технологии для авто

Популярная механика
Смерть обсерватории Смерть обсерватории

После серии аварий «культовый» телескоп Arecibo может закрыться навсегда

Популярная механика
Поля морей Поля морей

Новые технологии сельского хозяйства: фермы в океане

Популярная механика
Станки и люди Станки и люди

Машина на службе у человека или человек в плену у машины? О чем говорит история

РБК
Виртуальный секс Виртуальный секс

«Популярная механика» протестировала первую в мире виртуальную любовницу

Популярная механика
«Люби его таким, какой он есть»: большое заблуждение? «Люби его таким, какой он есть»: большое заблуждение?

Существует ли идеальная любовь?

Psychologies
Успеть за 15 секунд Успеть за 15 секунд

Людям надоело притворяться – в TikTok они остаются собой

Популярная механика
Деньги и мы: что влияет на наши отношения? Деньги и мы: что влияет на наши отношения?

Как складываются ваши отношения с деньгами и можно ли их изменить?

Psychologies
Топливо больших скоростей Топливо больших скоростей

Прогресс привнес новейшие технологии в систему обеспечения лайнеров топливом

Популярная механика
Котлета от Тимати: сколько можно заработать на франшизе Black Star Burger Котлета от Тимати: сколько можно заработать на франшизе Black Star Burger

Как сейчас работает Black Star Burger и можно ли заработать на этой франшизе?

Forbes
Билет в один конец Билет в один конец

Илон Маск мечтает умереть на Марсе, и он по-своему прав

Популярная механика
5 способов борьбы с тревогой: советы тренера по боевым искусствам 5 способов борьбы с тревогой: советы тренера по боевым искусствам

Борьба со стрессом: попробуйте вернуться в тело, почувствуйте ритм, движение

Psychologies
Нечеловеческий секс Нечеловеческий секс

Почему мы все еще занимаемся сексом по старинке – с живыми людьми?

Популярная механика
Самец складчатомордого листоноса приспустил маску на время спаривания Самец складчатомордого листоноса приспустил маску на время спаривания

Зоологи впервые описали брачное поведение складчатомордых листоносов

N+1
Как безумный Майк Хьюз отправился за славой и погиб Как безумный Майк Хьюз отправился за славой и погиб

Пустыня Мохаве что-то шептала в темноте, пока Безумный Майк готовился к полету

Популярная механика
Цвет настроения Цвет настроения

Универсальный современный интерьер с элементами ар–деко для молодой семьи

SALON-Interior
Открыть в приложении