Как работают настоящие нейроморфные микросхемы

Популярная механикаHi-Tech

Компьютерный мозг

Название это уже привычное, хотя на самом деле вычислительные системы устроены совсем иначе. Настоящие нейроморфные микросхемы появились лишь в последнее десятилетие, обещая быструю работу нейросетей и энергопотребление почти столь же низкое, как у живого мозга.

Текст: Роман Фишман

В конце 2019 года разработчики из OpenAI продемонстрировали роботизированный манипулятор Dactyl, отличающийся «ловкостью человеческого уровня». Работой пяти металлических пальцев управляла нейросеть, способная самостоятельно обучаться движения и даже освоившая головоломный кубик Рубика. Для ее подготовки использовали больше тысячи настольных компьютеров и десятки мощных графических систем. Как подсчитали впоследствии эксперты, на них было затрачено около 2,8 ГВт∙ч энергии – количество, которое требует нескольких часов работы целой АЭС.

Для обучения нейросети нужно проанализировать огромные массивы данных – чем больше, тем лучше. На это могут уходить дни и даже недели работы высокопроизводительных и «прожорливых» компьютерных систем. В результате потребности нейросетей в вычислительных мощностях растут быстрее, чем сами эти мощности, обгоняя даже знаменитый закон Мура. По некоторым подсчетам, в 2018 году значительный прогресс в этой области требовал в 300 тыс. раз больше ресурсов, чем в 2012-м, удваиваясь каждые три-четыре месяца. А с увеличением мощностей растут и затраты энергии.

Умножение ядер

При таких вычислениях на компьютер поступает входная информация и наборы коэффициентов – весов, полученных в ходе обучения нейросети. Перемножая векторные данные и матрицы весов последовательно, сеть может с определенной вероятностью выдать правильный ответ – например, заключить с уверенностью 99,99%, что на предъявленном ей изображении показана кошка. Проблема в том, что объемы связанных с этим расчетов колоссальны: мощные глубокие нейросети могут использовать миллионы и миллиарды коэффициентов, а для их обучения требуются терабайты данных.

В итоге важную роль здесь стали играть графические процессоры, которые разрабатывались для похожих операций. Отрисовка трехмерных изображений в режиме реального времени требует несложных, но массовых и быстрых параллельных операций над каждым пикселем. Поэтому, в отличие от основного процессора, видеокарты состоят из тысяч упрощенных вычислительных ядер. Проводя триллионы операций с плавающей точкой в секунду (терафлопс), они с успехом справляются и с нейросетями.

Этот тренд развивают специализированные тензорные процессоры, такие как Google TPU, состоящие уже из десятков тысяч крошечных ядер. Производительность третьего поколения Google TPU составляет целых 420 терафлопс, причем эти процессоры легко объединяются в кластеры. Заявляется, что именно такие микросхемы применялись системой AlphaGo, обыгравшей людей-соперников в го, они же используются для обработки фотографий Google Street View. Однако существует и совершенно иной подход, который предлагают нейроморфные микросхемы, построенные по другой архитектуре.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Чем мы дышим Чем мы дышим

Как оцифровать весь воздух в городах

Популярная механика
Полет в космос и послание с того света: самые дикие подарки звезд друг другу Полет в космос и послание с того света: самые дикие подарки звезд друг другу

Далеко не каждый сможет переплюнуть столь оригинальные идеи подарков

Cosmopolitan
Занимательная физика Занимательная физика

Мечта всех родителей – обучающие игрушки

Популярная механика
Души черного народа Души черного народа

Как изменилась жизнь афроамериканцев после отмены рабства

kiozk originals
5 невероятных проектов для борьбы с потеплением 5 невероятных проектов для борьбы с потеплением

Как люди собираются противостоять глобальному потеплению

Популярная механика
7 российских страшилок, популярных на Западе 7 российских страшилок, популярных на Западе

А мы еще удивляемся, почему русских так боятся

Maxim
Миры миров Миры миров

Как стать президентом в мультивселенной

Популярная механика
Разделяй и властвуй: зачем государства пытаются ограничить IT-компании Разделяй и властвуй: зачем государства пытаются ограничить IT-компании

IT-компании превратились в конкурентов государств

Forbes
Очень тяжелые носители Очень тяжелые носители

Прототипы будущей сверхтяжелой ракеты Starship продолжают испытания

Популярная механика
Правила доверительных отношений Правила доверительных отношений

Главный принцип воспитания — не врать ни себе, ни ребенку

СНОБ
Гора серебряная Гора серебряная

Как добывают благородные металлы

Популярная механика
Взломанный робот-пылесос подслушал разговоры при помощи лазера Взломанный робот-пылесос подслушал разговоры при помощи лазера

Инженеры изобрели метод распознавания звуков с помощью робота-пылесоса

N+1
Иллюзия успеха Иллюзия успеха

Четыре истории о талантливых мастерах пускать пыль в глаза

Популярная механика
Русские сезоны в F1: дорогие соотечественники, оставившие след в лучших гонках мира Русские сезоны в F1: дорогие соотечественники, оставившие след в лучших гонках мира

От худшего к лучшему рассчитайсь!

Maxim
Солнце над столицей Солнце над столицей

73-метровое колесо обозрения, возведенное к 850-летию Москвы, долго не простояло

Популярная механика
Танцевала перед Scorpions: как Екатерина Шпица стала актрисой Танцевала перед Scorpions: как Екатерина Шпица стала актрисой

10 неожиданных фактов об актрисе Екатерине Шпице

Cosmopolitan
Успеть за 15 секунд Успеть за 15 секунд

Людям надоело притворяться – в TikTok они остаются собой

Популярная механика
Преемница Мураками: что нужно знать о японской писательнице Ёко Огаве и ее романе «Полиция памяти» — эссе переводчика и востоковеда Дмитрия Коваленина Преемница Мураками: что нужно знать о японской писательнице Ёко Огаве и ее романе «Полиция памяти» — эссе переводчика и востоковеда Дмитрия Коваленина

Переводчик Дмитрий Коваленин рассуждает о творчестве писательницы Ёко Огавы

Esquire
Техника бокса Техника бокса

Современный спорт – это технологии

Популярная механика
Как Окинава стала островом с самым высоким в мире процентом долгожителей Как Окинава стала островом с самым высоким в мире процентом долгожителей

Окинава — эта не та привычная нам всем Япония

Maxim
Космические тоннели Космические тоннели

Существуют ли кротовые норы?

Популярная механика
Общежитие для зумеров: что такое TikTok-дома и кто на них зарабатывает Общежитие для зумеров: что такое TikTok-дома и кто на них зарабатывает

Как 15-секундные ролики о совместном быте зумеров стали новым трендом в сети

Forbes
Лучше, чем жизнь Лучше, чем жизнь

Традиционно самыми ресурсоемкими считались спецэффекты для кино

Популярная механика
Школа женского здоровья Школа женского здоровья

6 правил, которые помогут тебе чувствовать себя по утрам бодрой и отдохнувшей

Cosmopolitan
Виртуальный секс Виртуальный секс

«Популярная механика» протестировала первую в мире виртуальную любовницу

Популярная механика
Как начать медитировать: лайфхаки для начинающих Как начать медитировать: лайфхаки для начинающих

Какой бывает медитация и есть ли ограничения?

Psychologies
Корабль, рожденный в «цифре» Корабль, рожденный в «цифре»

Модель имперского звездного разрушителя из кубиков LEGO весит почти 20 кг

Популярная механика
Стресс и выгорание: почему так важно понимать разницу Стресс и выгорание: почему так важно понимать разницу

Представьте себе ситуацию: работы все больше, вы чувствуете себя на нуле...

Psychologies
Триумф 57 мм Триумф 57 мм

Новое слово в разработке российских бронемашин

Популярная механика
Платье-миди: главные опасности модели и с чем ее носить, чтобы выглядеть стильно Платье-миди: главные опасности модели и с чем ее носить, чтобы выглядеть стильно

Собираем стильные образы с платьем-миди в главной роли

Cosmopolitan
Открыть в приложении