Как работают настоящие нейроморфные микросхемы

Популярная механикаHi-Tech

Компьютерный мозг

Название это уже привычное, хотя на самом деле вычислительные системы устроены совсем иначе. Настоящие нейроморфные микросхемы появились лишь в последнее десятилетие, обещая быструю работу нейросетей и энергопотребление почти столь же низкое, как у живого мозга.

Текст: Роман Фишман

В конце 2019 года разработчики из OpenAI продемонстрировали роботизированный манипулятор Dactyl, отличающийся «ловкостью человеческого уровня». Работой пяти металлических пальцев управляла нейросеть, способная самостоятельно обучаться движения и даже освоившая головоломный кубик Рубика. Для ее подготовки использовали больше тысячи настольных компьютеров и десятки мощных графических систем. Как подсчитали впоследствии эксперты, на них было затрачено около 2,8 ГВт∙ч энергии – количество, которое требует нескольких часов работы целой АЭС.

Для обучения нейросети нужно проанализировать огромные массивы данных – чем больше, тем лучше. На это могут уходить дни и даже недели работы высокопроизводительных и «прожорливых» компьютерных систем. В результате потребности нейросетей в вычислительных мощностях растут быстрее, чем сами эти мощности, обгоняя даже знаменитый закон Мура. По некоторым подсчетам, в 2018 году значительный прогресс в этой области требовал в 300 тыс. раз больше ресурсов, чем в 2012-м, удваиваясь каждые три-четыре месяца. А с увеличением мощностей растут и затраты энергии.

Умножение ядер

При таких вычислениях на компьютер поступает входная информация и наборы коэффициентов – весов, полученных в ходе обучения нейросети. Перемножая векторные данные и матрицы весов последовательно, сеть может с определенной вероятностью выдать правильный ответ – например, заключить с уверенностью 99,99%, что на предъявленном ей изображении показана кошка. Проблема в том, что объемы связанных с этим расчетов колоссальны: мощные глубокие нейросети могут использовать миллионы и миллиарды коэффициентов, а для их обучения требуются терабайты данных.

В итоге важную роль здесь стали играть графические процессоры, которые разрабатывались для похожих операций. Отрисовка трехмерных изображений в режиме реального времени требует несложных, но массовых и быстрых параллельных операций над каждым пикселем. Поэтому, в отличие от основного процессора, видеокарты состоят из тысяч упрощенных вычислительных ядер. Проводя триллионы операций с плавающей точкой в секунду (терафлопс), они с успехом справляются и с нейросетями.

Этот тренд развивают специализированные тензорные процессоры, такие как Google TPU, состоящие уже из десятков тысяч крошечных ядер. Производительность третьего поколения Google TPU составляет целых 420 терафлопс, причем эти процессоры легко объединяются в кластеры. Заявляется, что именно такие микросхемы применялись системой AlphaGo, обыгравшей людей-соперников в го, они же используются для обработки фотографий Google Street View. Однако существует и совершенно иной подход, который предлагают нейроморфные микросхемы, построенные по другой архитектуре.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Art&Science Art&Science

Можно ли объединить науку и искусство

Популярная механика
Я/мы. Что нас объединяет? Я/мы. Что нас объединяет?

Психолог Тахир Базаров размышляет о том, как изменилась социальная дистанция

Psychologies
...Бегом под парусом ...Бегом под парусом

Кубок «Америки» – 2021 и гонка бегущих яхт

Популярная механика
Правила жизни Мэттью Макконахи Правила жизни Мэттью Макконахи

Правила жизни актера Мэттью Макконахи

Esquire
Киберпанк-2021 Киберпанк-2021

Проект нового направления в музыкальной индустрии родился на стыке технологий

Популярная механика
Наука побежать. 5 уникальных побегов через Берлинскую стену Наука побежать. 5 уникальных побегов через Берлинскую стену

5 случаев побега из развивающегося социализма ГДР в загнивающий капитализм ФРГ

Maxim
В ожидании космического отпуска В ожидании космического отпуска

Самые реальные варианты космического туризма

Популярная механика
Марина Краснова Марина Краснова

Директор по продукту ВКонтакте руководит коллективом из более 200 разработчиков

Собака.ru
Убийственный «гипер» Убийственный «гипер»

Все об аэродинамике самого перспективного оружия

Популярная механика
«Люблю переодевать людей» «Люблю переодевать людей»

О карантинных мерах, модном процессе и новом new look после кризиса и пандемии

OK!
Чем мы дышим Чем мы дышим

Как оцифровать весь воздух в городах

Популярная механика
Как защитить телефон от кражи данных Как защитить телефон от кражи данных

Как пользователям смартфонов защититься от взломов

СНОБ
Восток и его обитатели Восток и его обитатели

В озере Восток под ледовым щитом Антарктиды есть жизнь

Популярная механика
8 итальянцев, имена которых замаскировались под обычные слова 8 итальянцев, имена которых замаскировались под обычные слова

Восемь итальянских фамилий, которые впоследствии стали именами нарицательными

Maxim
Ниже солнца, выше воды Ниже солнца, выше воды

Беспилотное судно с почти неограниченным запасом хода

Популярная механика
«Я всё могу сама» «Я всё могу сама»

У актрисы Анастасии Уколовой яркая внешность и заразительный смех

OK!
Нечеловеческий секс Нечеловеческий секс

Почему мы все еще занимаемся сексом по старинке – с живыми людьми?

Популярная механика
Игорь Пальчицкий. Дотянуться до звезды Игорь Пальчицкий. Дотянуться до звезды

Двадцатого ноября Майе Плисецкой исполнилось бы девяносто пять лет

Караван историй
Летящая на волне Летящая на волне

История о том, как летал один из самых необычных сверхзвуковых самолетов

Популярная механика
Первый концлагерь, первый теракт и еще 6 адских исторических первенцев Первый концлагерь, первый теракт и еще 6 адских исторических первенцев

Они были первыми. Но лучше бы их не было!

Maxim
Успеть за 15 секунд Успеть за 15 секунд

Людям надоело притворяться – в TikTok они остаются собой

Популярная механика
«Моя идеальная девушка»: чего хотят мужчины «Моя идеальная девушка»: чего хотят мужчины

Как молодые холостяки представляют себе женщину, в которую можно влюбиться

Cosmopolitan
За кулисами пуска За кулисами пуска

Старт космической ракеты – зрелище без преувеличения грандиозное

Популярная механика
Как тренироваться в мороз Как тренироваться в мороз

Улица — отличное место для тренировки даже зимой

Maxim
Виртуальный секс Виртуальный секс

«Популярная механика» протестировала первую в мире виртуальную любовницу

Популярная механика
Брачные контракты, полицейские с собаками, первые забастовки и еще 6 фактов о Древнем Египте, которых вы могли не знать Брачные контракты, полицейские с собаками, первые забастовки и еще 6 фактов о Древнем Египте, которых вы могли не знать

Что вы знаете о Египте?

Популярная механика
Робот – лучший повар Робот – лучший повар

Намучившись с самодеятельной кулинарией, он решил поручить эти заботы технике

Популярная механика
Одна вокруг света. Сколько стоит переправиться через океан Одна вокруг света. Сколько стоит переправиться через океан

97-я серия о кругосветном путешествии москвички Ирины Сидоренко

Forbes
К баллистическому будущему К баллистическому будущему

Траектория движения космических аппаратов строится с учетом разных соображений

Популярная механика
Знакомства без колец: чем закончились самые долгие гражданские браки звезд Знакомства без колец: чем закончились самые долгие гражданские браки звезд

Истории знаменитостей, не заключивших брак, но состоявших в отношениях

Cosmopolitan
Открыть в приложении