Как работают настоящие нейроморфные микросхемы

Популярная механикаHi-Tech

Компьютерный мозг

Название это уже привычное, хотя на самом деле вычислительные системы устроены совсем иначе. Настоящие нейроморфные микросхемы появились лишь в последнее десятилетие, обещая быструю работу нейросетей и энергопотребление почти столь же низкое, как у живого мозга.

Текст: Роман Фишман

В конце 2019 года разработчики из OpenAI продемонстрировали роботизированный манипулятор Dactyl, отличающийся «ловкостью человеческого уровня». Работой пяти металлических пальцев управляла нейросеть, способная самостоятельно обучаться движения и даже освоившая головоломный кубик Рубика. Для ее подготовки использовали больше тысячи настольных компьютеров и десятки мощных графических систем. Как подсчитали впоследствии эксперты, на них было затрачено около 2,8 ГВт∙ч энергии – количество, которое требует нескольких часов работы целой АЭС.

Для обучения нейросети нужно проанализировать огромные массивы данных – чем больше, тем лучше. На это могут уходить дни и даже недели работы высокопроизводительных и «прожорливых» компьютерных систем. В результате потребности нейросетей в вычислительных мощностях растут быстрее, чем сами эти мощности, обгоняя даже знаменитый закон Мура. По некоторым подсчетам, в 2018 году значительный прогресс в этой области требовал в 300 тыс. раз больше ресурсов, чем в 2012-м, удваиваясь каждые три-четыре месяца. А с увеличением мощностей растут и затраты энергии.

Умножение ядер

При таких вычислениях на компьютер поступает входная информация и наборы коэффициентов – весов, полученных в ходе обучения нейросети. Перемножая векторные данные и матрицы весов последовательно, сеть может с определенной вероятностью выдать правильный ответ – например, заключить с уверенностью 99,99%, что на предъявленном ей изображении показана кошка. Проблема в том, что объемы связанных с этим расчетов колоссальны: мощные глубокие нейросети могут использовать миллионы и миллиарды коэффициентов, а для их обучения требуются терабайты данных.

В итоге важную роль здесь стали играть графические процессоры, которые разрабатывались для похожих операций. Отрисовка трехмерных изображений в режиме реального времени требует несложных, но массовых и быстрых параллельных операций над каждым пикселем. Поэтому, в отличие от основного процессора, видеокарты состоят из тысяч упрощенных вычислительных ядер. Проводя триллионы операций с плавающей точкой в секунду (терафлопс), они с успехом справляются и с нейросетями.

Этот тренд развивают специализированные тензорные процессоры, такие как Google TPU, состоящие уже из десятков тысяч крошечных ядер. Производительность третьего поколения Google TPU составляет целых 420 терафлопс, причем эти процессоры легко объединяются в кластеры. Заявляется, что именно такие микросхемы применялись системой AlphaGo, обыгравшей людей-соперников в го, они же используются для обработки фотографий Google Street View. Однако существует и совершенно иной подход, который предлагают нейроморфные микросхемы, построенные по другой архитектуре.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Человек, который придумывает будущее Человек, который придумывает будущее

Компания с российскими корнями разрабатывает уникальные технологии для авто

Популярная механика
5 ошибок Grow Food 5 ошибок Grow Food

Типичные ошибки в жизни любого стартапера

Inc.
Чем мы дышим Чем мы дышим

Как оцифровать весь воздух в городах

Популярная механика
Расширить границы возможностей Расширить границы возможностей

Многие артисты пробуют свои силы в разных форматах и осваивают новые площадки

OK!
Верхом на вихре Верхом на вихре

Возможное будущее гражданской авиации

Популярная механика
8 итальянцев, имена которых замаскировались под обычные слова 8 итальянцев, имена которых замаскировались под обычные слова

Восемь итальянских фамилий, которые впоследствии стали именами нарицательными

Maxim
Солнце над столицей Солнце над столицей

73-метровое колесо обозрения, возведенное к 850-летию Москвы, долго не простояло

Популярная механика
Несчастливый 2013 год: что стало причиной гибели героя «Форсажа» Пола Уолкера Несчастливый 2013 год: что стало причиной гибели героя «Форсажа» Пола Уолкера

Смерть Пола Уолкера стала трагедией для всего кинематографа

Cosmopolitan
Зимовье людей Зимовье людей

Как живут российские деревни и поселки, отрезанные от большой земли

Популярная механика
Жить здорово: какой недвижимостью владеет Елена Малышева Жить здорово: какой недвижимостью владеет Елена Малышева

10 фактов из личной жизни и творческой биографии Елены Васильевны Малышевой

Cosmopolitan
5 невероятных проектов для борьбы с потеплением 5 невероятных проектов для борьбы с потеплением

Как люди собираются противостоять глобальному потеплению

Популярная механика
Почему Россия проиграла президентские выборы в Молдавии Почему Россия проиграла президентские выборы в Молдавии

Россия потерпела очередное за 2020 год поражение на постсоветском пространстве

СНОБ
За кулисами пуска За кулисами пуска

Старт космической ракеты – зрелище без преувеличения грандиозное

Популярная механика
Как Станислав Черчесов превратился из героя чемпионата мира в одного из главных злодеев российского футбола Как Станислав Черчесов превратился из героя чемпионата мира в одного из главных злодеев российского футбола

Разбираемся, почему главного тренера сборной России стали так часто критиковать

GQ
Робот – лучший повар Робот – лучший повар

Намучившись с самодеятельной кулинарией, он решил поручить эти заботы технике

Популярная механика
Я/мы. Что нас объединяет? Я/мы. Что нас объединяет?

Психолог Тахир Базаров размышляет о том, как изменилась социальная дистанция

Psychologies
Одомашнивание: новый цикл Одомашнивание: новый цикл

До конца нынешнего десятилетия произойдет очередная революция

Популярная механика
Алина Фаркаш о том, как мужчины поддерживают культуру насилия Алина Фаркаш о том, как мужчины поддерживают культуру насилия

Алина Фаркаш рассуждает о том, почему мы все живем в культуре насилия

Cosmopolitan
Маломощные реакторы спасут мирный атом Маломощные реакторы спасут мирный атом

Репутация – главная проблема атомной энергетики в XXI веке

Популярная механика
«Один или два середнячка в команде расхолаживают всех»: миллиардер и CEO Netflix Рид Хастингс о том, как создать сверхэффективную команду «Один или два середнячка в команде расхолаживают всех»: миллиардер и CEO Netflix Рид Хастингс о том, как создать сверхэффективную команду

Отрывок из книги про Netflix о том, как собрать коллектив мечты

Forbes
Убийственный «гипер» Убийственный «гипер»

Все об аэродинамике самого перспективного оружия

Популярная механика
«В нашей жизни всё спонтанно» «В нашей жизни всё спонтанно»

Блогеры Ольга и Максим Нечаевы: о воспитании дочери и курсе «Голые деньги»

OK!
Нечеловеческий секс Нечеловеческий секс

Почему мы все еще занимаемся сексом по старинке – с живыми людьми?

Популярная механика
Глаза Эйнштена и другие легендарные части тела великих людей Глаза Эйнштена и другие легендарные части тела великих людей

Они жили полной жизнью, даже когда оказывались вдали от своих владельцев!

Maxim
Успеть за 15 секунд Успеть за 15 секунд

Людям надоело притворяться – в TikTok они остаются собой

Популярная механика
«Нормально, Григорий! Отлично, Константин!»: как Михаил Жванецкий помогал стране переживать абсурдные эпохи «Нормально, Григорий! Отлично, Константин!»: как Михаил Жванецкий помогал стране переживать абсурдные эпохи

Как творчество Михаила Жванецкого повлияло на культуру России

Forbes
Виртуальный секс Виртуальный секс

«Популярная механика» протестировала первую в мире виртуальную любовницу

Популярная механика
Почему хочется сходить в туалет, когда нервничаешь: объяснение уролога Почему хочется сходить в туалет, когда нервничаешь: объяснение уролога

Какая связь между этими двумя состояниями?

Playboy
Долгая счастливая жизнь Долгая счастливая жизнь

Старение – это естественно, но не нормально

Популярная механика
Бхима Юнусов Бхима Юнусов

28-летний композитор олицетворяет собой понятие «междисциплинарность»

Собака.ru
Открыть в приложении