Как работают настоящие нейроморфные микросхемы

Популярная механикаHi-Tech

Компьютерный мозг

Название это уже привычное, хотя на самом деле вычислительные системы устроены совсем иначе. Настоящие нейроморфные микросхемы появились лишь в последнее десятилетие, обещая быструю работу нейросетей и энергопотребление почти столь же низкое, как у живого мозга.

Текст: Роман Фишман

В конце 2019 года разработчики из OpenAI продемонстрировали роботизированный манипулятор Dactyl, отличающийся «ловкостью человеческого уровня». Работой пяти металлических пальцев управляла нейросеть, способная самостоятельно обучаться движения и даже освоившая головоломный кубик Рубика. Для ее подготовки использовали больше тысячи настольных компьютеров и десятки мощных графических систем. Как подсчитали впоследствии эксперты, на них было затрачено около 2,8 ГВт∙ч энергии – количество, которое требует нескольких часов работы целой АЭС.

Для обучения нейросети нужно проанализировать огромные массивы данных – чем больше, тем лучше. На это могут уходить дни и даже недели работы высокопроизводительных и «прожорливых» компьютерных систем. В результате потребности нейросетей в вычислительных мощностях растут быстрее, чем сами эти мощности, обгоняя даже знаменитый закон Мура. По некоторым подсчетам, в 2018 году значительный прогресс в этой области требовал в 300 тыс. раз больше ресурсов, чем в 2012-м, удваиваясь каждые три-четыре месяца. А с увеличением мощностей растут и затраты энергии.

Умножение ядер

При таких вычислениях на компьютер поступает входная информация и наборы коэффициентов – весов, полученных в ходе обучения нейросети. Перемножая векторные данные и матрицы весов последовательно, сеть может с определенной вероятностью выдать правильный ответ – например, заключить с уверенностью 99,99%, что на предъявленном ей изображении показана кошка. Проблема в том, что объемы связанных с этим расчетов колоссальны: мощные глубокие нейросети могут использовать миллионы и миллиарды коэффициентов, а для их обучения требуются терабайты данных.

В итоге важную роль здесь стали играть графические процессоры, которые разрабатывались для похожих операций. Отрисовка трехмерных изображений в режиме реального времени требует несложных, но массовых и быстрых параллельных операций над каждым пикселем. Поэтому, в отличие от основного процессора, видеокарты состоят из тысяч упрощенных вычислительных ядер. Проводя триллионы операций с плавающей точкой в секунду (терафлопс), они с успехом справляются и с нейросетями.

Этот тренд развивают специализированные тензорные процессоры, такие как Google TPU, состоящие уже из десятков тысяч крошечных ядер. Производительность третьего поколения Google TPU составляет целых 420 терафлопс, причем эти процессоры легко объединяются в кластеры. Заявляется, что именно такие микросхемы применялись системой AlphaGo, обыгравшей людей-соперников в го, они же используются для обработки фотографий Google Street View. Однако существует и совершенно иной подход, который предлагают нейроморфные микросхемы, построенные по другой архитектуре.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Микробы от похмелья Микробы от похмелья

Бактерии, которые способны утилизировать алкогольный токсин в кишечнике

Популярная механика
Как сложились судьбы детей свергнутых (или просто умерших) диктаторов современности Как сложились судьбы детей свергнутых (или просто умерших) диктаторов современности

Мурад Ниязов, Гульнара Каримова, Николае Чаушеску-младший — где они теперь?

Maxim
Меняю автомат на беспилотник Меняю автомат на беспилотник

Первое боестолкновение, где решающую роль сыграли беспилотные дроны

Популярная механика
Королева как мишень: 7 самых известных покушений на британских монархов Королева как мишень: 7 самых известных покушений на британских монархов

Как британские правители могли погибнуть, но удача оказалась на их стороне

Cosmopolitan
Немного другие миры Джолана ван дер Виля Немного другие миры Джолана ван дер Виля

Художник из Амстердама играет с силами природы

Популярная механика
10 успешных зарубежных художников, которые живут в наше время 10 успешных зарубежных художников, которые живут в наше время

Современные западные художники, которые ценятся на рынке искусства

GQ
Одно спасительное имя Одно спасительное имя

Как называют лекарства?

Популярная механика
Любимые рецепты Лали Чочия. Маффины из тыквы Любимые рецепты Лали Чочия. Маффины из тыквы

Лали Чочия делится рецептом сытных и полезных тыквенных маффинов

Seasons of life
Одомашнивание: новый цикл Одомашнивание: новый цикл

До конца нынешнего десятилетия произойдет очередная революция

Популярная механика
Фильму «Один дома» — 30 лет. Мы поговорили с продюсерами ленты о том, как создавалась рождественская классика Фильму «Один дома» — 30 лет. Мы поговорили с продюсерами ленты о том, как создавалась рождественская классика

Как фильм «Один дома» изменил судьбы своих создателей и изменил киноиндустрию

Esquire
Пространство новых материалов Пространство новых материалов

Как один ученый придумал альтернативу таблице Менделеева

Популярная механика
12 вещей, которые использовали вместо денег 12 вещей, которые использовали вместо денег

Во времена натурального обмена в роли денег выступали совершенно разные объекты

Maxim
Турецкий марш Турецкий марш

Военная мощь Турции неожиданно оказалась предметом большого интереса

Популярная механика
«Если мы не победим, этой стране конец»: главное из новых мемуаров Барака Обамы «Если мы не победим, этой стране конец»: главное из новых мемуаров Барака Обамы

Барак Обама про Путина, республиканцев, Байдена и будущее

Forbes
Винтокрыл против конвертоплана Винтокрыл против конвертоплана

«Вертолет» не самый подходящий термин для описания этих воздушных монстров

Популярная механика
Их объединила трагедия: трогательная история любви Павла Воли и Ляйсан Утяшевой Их объединила трагедия: трогательная история любви Павла Воли и Ляйсан Утяшевой

Вспоминаем, как развивались отношения Павла Воли и Ляйсан Утяшевой

Cosmopolitan
К баллистическому будущему К баллистическому будущему

Траектория движения космических аппаратов строится с учетом разных соображений

Популярная механика
Сериал «Корона» по-прежнему очень роскошный, но больше не впечатляет Сериал «Корона» по-прежнему очень роскошный, но больше не впечатляет

Самое дорогое жизнеописание, но все-таки слишком далекое от истины

GQ
Созвездие рекламы Созвездие рекламы

Почему разработчики ионных двигателей занялись проектом космической рекламы

Популярная механика
Как бренд Jil Sander возвращает себе былую славу Как бренд Jil Sander возвращает себе былую славу

Говорим «минимализм 1990-х» – подразумеваем «дом Jil Sander»

GQ
Симулятор войны Симулятор войны

Современные дети не играют в войну, зато в нее играют их родители

Популярная механика
Похудеть за сутки на 2 кг: правила популярной Похудеть за сутки на 2 кг: правила популярной

Пирожные и конфеты застряли в районе талии?

Cosmopolitan
Виртуальный секс Виртуальный секс

«Популярная механика» протестировала первую в мире виртуальную любовницу

Популярная механика
«Ждем, когда 5G станет реальностью, а не только поводом для хайпа» «Ждем, когда 5G станет реальностью, а не только поводом для хайпа»

Александр Чуб — о том, как в России развивается инфраструктура для сотовой связи

РБК
Используй ложку и телефон: 20 способов доставить себе удовольствие Используй ложку и телефон: 20 способов доставить себе удовольствие

Двадцать разных способов мастурбации на любой вкус и цвет

Cosmopolitan
Почему знаменитые преступники и маньяки вызывают такой интерес? Почему знаменитые преступники и маньяки вызывают такой интерес?

Чем пугающие люди так привлекают наше внимание?

Psychologies
Человек, который придумывает будущее Человек, который придумывает будущее

Компания с российскими корнями разрабатывает уникальные технологии для авто

Популярная механика
Найдена странная галактика, продолжающая порождать звезды вопреки чудовищной черной дыре в центре Найдена странная галактика, продолжающая порождать звезды вопреки чудовищной черной дыре в центре

Эта галактика сумела продолжить образование новых звезд

Популярная механика
Успеть за 15 секунд Успеть за 15 секунд

Людям надоело притворяться – в TikTok они остаются собой

Популярная механика
Почему немецкие автоматы называют «Шмайссером», если это не «Шмайссер» Почему немецкие автоматы называют «Шмайссером», если это не «Шмайссер»

Я стреляю, он стреляет, они стреляют…

Maxim
Открыть в приложении