Naukowcy z Uniwersytetu Teksańskiego w Austin oraz Taiwan Semiconductor Manufacturing Company przeprowadzili eksperyment z pamięcią magnetyczną, która umożliwia błyskawiczne zapisywanie danych, minimalizując zużycie energii, a także zachowując informacje po utracie zasilania. SOT-MRAM może stanowić istotną alternatywę lub współpracownika dla tradycyjnych GPU, oferując lokalnej sztucznej inteligencji znaczącą przewagę dzięki unikaniu ciągłego odwoływania się do chmury.
SOT-MRAM nie jest nowym pomysłem, ale badania prowadzone przez zespół z Uniwersytetu Teksańskiego w Austin we współpracy z TSMC przybliżają tę technologię do zastosowań przemysłowych. Naukowcy zbadali elementy pochodzące z 4-kilobitowych macierzy, wyprodukowanych przy użyciu technologii wafli o średnicy 300 mm. Następnie przeanalizowali ich parametry elektryczne w kontekście zadań związanych z sztuczną inteligencją. Wyniki opublikowane w „Science Advances” ujawniają wiele interesujących aspektów.
Pamięć magnetyczna jako przełomowa technologia
Tradycyjnie dane oraz wagi modeli wymagają stałego przesyłania między pamięcią a procesorem, co jest czasochłonne i energochłonne. Analogowe macierze krzyżowe mają na celu ograniczenie tego zjawiska: przechowują wartości w elementach pamięci i równocześnie wykonują operacje macierzowo-wektorowe, kluczowe dla funkcjonowania sieci neuronowych i sztucznej inteligencji. Komórka SOT-MRAM korzysta z magnetycznego złącza tunelowego z dwiema ferromagnetycznymi warstwami oddzielonymi izolatorem. Ułożenie kierunków namagnesowania tych warstw wpływa na ich opór, co reprezentuje stany logiczne: 0 lub 1. Moment spinowo-orbitalny może zmieniać stan wolnej warstwy za pomocą impulsu prądu, a zapisany stan utrzymuje się nawet po odcięciu zasilania.
Dwa stabilne stany to zaleta, ale także wada: intuicyjnie mogłoby się wydawać, że „to wystarczy”. Okazuje się, że nie do końca. Pamięci analogowe mogą odwzorować wiele poziomów przewodności, a komórki SOT-MRAM działają binarnie. Naukowcy postanowili zbadać tę cechę w kontekście inferencji na skalibrowanych modelach, stochastycznym trenowaniu binarnych sieci neuronowych oraz probabilistycznym modelowaniu grafów. W drugim i trzecim przypadku naturalne prawdopodobieństwo przełączenia komórki staje się istotnym elementem obliczenia, a nie tylko nośnikiem błędu. Dwa stany nie eliminują pamięci z rynku AI, ale wymagają specjalnego projektowania zarówno sprzętu, jak i modeli, co stanowi główną trudność.
Dwie nanosekundy – imponujący wynik
Zbadane elementy przełączały stan w czasie 2 nanosekund przy napięciu poniżej 1 volta i energii zapisu wynoszącej 2 pikodżule. Zarejestrowano także około 0,1 proc. szumu zapisu, co wskazuje na wysoką powtarzalność operacji na pojedynczej komórce. Niestety, wystąpiło około 10-procentowe zróżnicowanie parametrów pomiędzy komórkami produkowanymi na waflu, co może być problematyczne. Jednak współczynnik magnetorezystancji tunelowej wyniósł imponujące 150 proc., co sugeruje, że oba stany są łatwo rozróżnialne elektrycznie. Dla macierzy obliczeniowej to kluczowe, ponieważ te cechy określają, z jaką dokładnością sprzęt odzwierciedla wartości używane przez model.
Pamiętać należy, że wartość 2 pikodżuli odnosi się wyłącznie do operacji zapisu. Kompletne akceleratory dla sztucznej inteligencji będą także potrzebować układów kontrolnych, procedur odczytu, konwersji sygnałów oraz komunikacji z innymi elementami systemu. Testowana macierz miała pojemność 4 kilobitów, co czyni ją interesującym, ale nadal jednostkowym przykładem wydajności. Dodatkowo SOT-MRAM wymaga trzech terminali, podczas gdy STT-MRAM korzysta z dwóch, co zwiększa wymagania przestrzenne dla komórki. Ogólnie rzecz biorąc, technologia ta nadal prezentuje pewne niedoskonałości, lecz jej potencjał jest wart uwagi.
Nie będzie niezbędna w komputerach, ale w innych zastosowaniach może okazać się rewolucyjna
Najwięcej korzyści przyniosłaby technologia wszelkim urządzeniom, które mogą korzystać z mniejszych, ale nadal użytecznych lokalnych modeli: na przykład czujnikom, sprzętowi noszonemu oraz robotom, które napotykają ograniczenia w zakresie przetwarzania energii i pamięci. Lokalny akcelerator mógłby wykonać prostsze obliczenia, podczas gdy bardziej złożone operacje wymagałyby zapytania do modelu chmurowego. Nawet protezy mogłyby na tym zyskać: są małe, można je wspierać za pomocą AI, a ich połączenie z Internetem może budzić kontrowersje. Warto jednak pamiętać o ostrożności w zakresie oszczędzania energii: wciąż nie ma pewności, ile energii zużywałby taki układ w systemie jako całość.
Czytaj również: Więcej nie zawsze znaczy lepiej. A co jeśli AI nie potrzebuje tyle pamięci?
Aktualnie kluczowym celem jest zredukowanie różnic pomiędzy komórkami: to zróżnicowanie parametrów wpływa na dokładność sieci neuronowych. Autorzy podkreślają potrzebę dalszego rozwoju cech odpowiedzialnych za szybkość oraz efektywność pamięci. Współczesny proces produkcji z użyciem wafli 300 mm przybliża technologię do przemysłu, który w przyszłości może zająć się jej masową produkcją. Teraz następuje czas na testy pełnego akceleratora, które ujawnią zalety oraz wady tego urządzenia, jednak już teraz można dostrzec, że tak zaawansowana pamięć mogłaby zrewolucjonizować świat, w którym sztuczna inteligencja odgrywa coraz większą rolę – tego procesu nie da się zatrzymać.