Исследователи из Университета Миннесоты Твин-Ситис представили архитектуру аппаратного обеспечения Computational Random-Access Memory (CRAM), которая призвана трансформировать вычисления в области ИИ, резко сократив энергопотребление. CRAM способен сократить использование энергии ИИ в 1000 раз, решая одну из главных проблем в этой области: потребление энергоресурсов. Международное энергетическое агентство (IEA) прогнозирует, что потребление энергии ИИ увеличится более чем в два раза, с 460 тераватт-часов (ТВт·ч) в 2022 году до 1000 ТВт·ч к 2026 году, что эквивалентно общему потреблению электроэнергии в Японии. Традиционные методы вычислений ИИ включают энергоемкие передачи данных между логическими блоками и памятью. CRAM устраняет это, обрабатывая данные полностью в массиве памяти. Статья опубликована в npj Unconventional Computing.
Подробнее о CRAM
CRAM, или Computational Random-Access Memory, разработан специально для снижения энергопотребления. В отличие от традиционных архитектур, CRAM обрабатывает данные непосредственно в ячейках памяти, устраняя необходимость в энергоемких передачах данных между логическими блоками и памятью. Эта инновация значительно повышает энергоэффективность, предлагая потенциальную экономию энергии до 1000 раз по сравнению с традиционными методами. Уникальная конструкция CRAM позволяет выполнять вычисления в памяти, обеспечивая случайный доступ, реконфигурируемость и параллельные операции, что делает его идеальным для ресурсоемких вычислений, используемых, например, для обучения нейронных сетей или обработки изображений.
Переход от традиционной архитектуры
CRAM представляет собой фундаментальное отступление от традиционной архитектуры фон Неймана, которая является основой современных компьютеров. Обеспечивая вычисления непосредственно в ячейках памяти, CRAM устраняет узкое место передачи данных между вычислительными блоками и памятью. Улья Карпузку, доцент кафедры электротехники и вычислительной техники и соавтор статьи, подчеркнула гибкость CRAM в реконфигурации для соответствия требованиям производительности различных алгоритмов ИИ.
CRAM обрабатывает данные полностью в массиве памяти, в основе подхода лежит технология спинтронных устройств, использующая спин электронов для хранения данных. Экономия энергии составляет до 2500 раз по сравнению с традиционными методами. Этот прорыв стал результатом более чем 20 лет исследований под руководством Джиан-Пинга Ванга, Заслуженного профессора Макнайта и обладателя кафедры Роберта Ф. Хартманна на кафедре электротехники и вычислительной техники.
Эволюция технологии CRAM
Ванг вспомнил о первоначальной концепции использования ячеек памяти непосредственно для вычислений, которая считалась «сумасшедшей» два десятилетия назад. Междисциплинарные усилия, включающие студентов и преподавателей из различных областей, таких как физика, материаловедение, инженерия, компьютерные науки и создание аппаратного обеспечения, привели к разработке этой технологии.
Архитектура CRAM базируется на предыдущих работах команды с магнитными туннельными переходами (MTJ) и наноструктурированными устройствами. Эти компоненты, уже используемые в жестких дисках и датчиках, составляют основу магнитной оперативной памяти (MRAM), внедренной в микроконтроллеры и смарт-часы.
Экспериментальные результаты и перспективы
Команда провела обширные эксперименты, демонстрирующие возможности CRAM. Они достигли надежных операций записи в память с средним коэффициентом ошибок записи менее 1.5 × 10^-4. Устройство продемонстрировало высокую точность в логических операциях, с точностью около 99.4% для двухвходового NAND.
С несколькими уже полученными патентами исследовательская команда стремится сотрудничать с лидерами полупроводниковой промышленности для расширения демонстраций и производства аппаратного обеспечения, способного улучшить функциональность ИИ. Детали исследования команды опубликованы в рецензируемом журнале npj Unconventional Computing.
Эта инновация не только обещает сделать ИИ более энергоэффективным, но и переосмысливает будущее вычислений ИИ с гибкой, эффективной и устойчивой архитектурой.
