TSMC и учёные создали память, которая может заменить часть AI-ускорителей

Инженеры University of Texas at Austin совместно с TSMC изготовили и протестировали масштабируемые чипы SOT-MRAM — Spin-Orbit Torque Magnetoresistive RAM, которые могут стать основой для чрезвычайно энергоэффективных систем искусственного интеллекта.

Главная особенность SOT-MRAM — данные хранятся не в электрическом заряде, а в магнитном состоянии ячейки. Поэтому память остаётся энергонезависимой: информация сохраняется даже после отключения питания.

В эксперименте одна операция записи — переключение между состояниями 0 и 1 — занимала около 2 наносекунд и требовала примерно 2 пикоджоулей энергии. Исследователи отмечают, что альтернативные технологии в сопоставимых сценариях могут работать от нескольких до сотен раз медленнее и потреблять значительно больше энергии.

Но самое интересное — эту память тестировали не только как обычное хранилище данных.

Команда использовала SOT-MRAM сразу в нескольких задачах искусственного интеллекта: инференсе нейронных сетей, обучении бинарных нейросетей и вероятностном графовом моделировании.

На первый взгляд у технологии есть серьёзное ограничение: одна ячейка хранит только два устойчивых состояния — 0 или 1. Но исследователи адаптировали AI-алгоритмы таким образом, чтобы использовать именно бинарную природу памяти, сохраняя достаточную точность вычислений.

Главная потенциальная область применения — Edge AI.

Это искусственный интеллект, который работает непосредственно внутри камеры, датчика, робота, автомобиля или другого устройства, не отправляя каждый запрос в огромный облачный дата-центр.

Например, роботизированная рука может самостоятельно определить опасное повышение температуры и мгновенно отреагировать локально. А только для более сложной задачи подключиться к мощной GPU-инфраструктуре в облаке.

Именно поэтому сочетание скорости, энергонезависимости и низкого энергопотребления может быть особенно важно для автономных устройств с ограниченной батареей.

TSMC уже давно рассматривает SOT-MRAM как перспективное направление. Компания отмечает, что такая память потенциально способна работать быстрее 2 нс, иметь значительно большую плотность по сравнению с обычной 6T-SRAM и потреблять меньше энергии.

Но до массового применения ещё есть препятствия.

Исследователям необходимо уменьшить разброс характеристик между отдельными ячейками, поскольку он способен снижать точность нейросетей. Также технология пока ориентируется не на замену DRAM или HBM в огромных AI-серверах, а прежде всего на специализированные локальные ускорители.

Работа под названием “Wafer-Scale SOT-MRAM for Analog Crossbar Array Applications” опубликована в журнале Science Advances.

Если SOT-MRAM удастся масштабировать, часть будущего искусственного интеллекта может работать совсем иначе: не постоянно передавать данные в облако, а принимать решения прямо там, где эти данные появляются.

#TSMC #SOTMRAM #MRAM #ИскусственныйИнтеллект #EdgeAI #AI #Память #МагнитнаяПамять #Чипы #Полупроводники #Semiconductors #NeuralNetwork #Робототехника #PhysicalAI #Энергоэффективность #ScienceAdvances #НовыеТехнологии #ТехнологииБудущего #AIChips #XenonLab