Wkrótce drogie mogą okazać się nie tylko pamięci. Branża AI ostrzy sobie zęby również na inne rzeczy

Wkrótce drogie mogą okazać się nie tylko pamięci. Branża AI ostrzy sobie zęby również na inne rzeczy

Autor:

w

OpenAI intensywnie pracuje nad własnymi chipami do sztucznej inteligencji i zapowiada konkretne postępy w współpracy z Samsungiem. Obecne dostawy pamięci to jeden z kroków, ale wkrótce może to dotyczyć również procesorów, co może przypominać sytuację z aktualnym rynkiem pamięci RAM. Choć taki scenariusz wydaje się ekstremalny, warto pamiętać, że rynek AI wciąż rośnie i nie ma oznak na to, by miał się zatrzymać.

Harrison Kim, szef OpenAI w Korei, wczoraj w Seulu odniósł się do postępów w badaniach i przygotowaniach do produkcji nowej generacji chipów, nie ograniczając się jedynie do pamięci. OpenAI potwierdziło, że jego wypowiedź dotyczy obecnych relacji z Samsungiem, wspieranych wcześniej podpisanym listem intencyjnym, co zasadniczo nie jest nowością. Jednak znaczenie tej współpracy wyraźnie wzrasta, a można się zastanawiać, czy niebawem OpenAI, jako gigant w branży, zacznie zyskiwać również inne kluczowe komponenty poza RAM-em. Jak wspomniałem wcześniej, w niekorzystnych warunkach, mogłoby to prowadzić do kryzysu na wzór sytuacji z komponentami DRAM, co w znaczący sposób wpłynęłoby na ceny dla konsumentów.

Potrzeby sprzętowe OpenAI

Relacje między Koreą Południową a USA są regulowane listem intencyjnym z 2025 roku. Samsung Electronics dołączył do projektu Stargate jako strategiczny partner w zakresie efektywnej i energooszczędnej pamięci, a równolegle zawarto umowę z SK Hynix. Wówczas szacowano, że potrzeby OpenAI mogą sięgać nawet 900 tysięcy wafli DRAM miesięcznie.

Dlaczego pamięć jest tak ważna dla firm zajmujących się sztuczną inteligencją? Wykonywanie poleceń, zarówno naszych, jak i modelu AI, wymaga intensywnych obliczeń, a generowanie dalszych fragmentów odpowiedzi zależy od przepustowości pamięci. Procesor musi otrzymywać dane na tyle szybko, aby wykorzystać swoje możliwości obliczeniowe. Opóźnienia mogą również występować podczas dystrybucji danych między rdzeniami. Sam akcelerator zbudowany dla AI nie rozwiązuje problemów związanych z przenoszeniem dużych ilości danych. Dlatego powstają projekty takie jak Jalapeño, które mają na celu ograniczenie zbędnego przenoszenia danych oraz zaprojektowanie układów i oprogramowania dostosowanego do konkretnych potrzeb. Jak pokazuje przykład Apple, które w sojuszu z partnerami buduje własny sprzęt, wzmacniając go o odpowiednie oprogramowanie, takie podejście przynosi najlepsze efekty w zakresie wydajności. OpenAI podąża podobną ścieżką, ale w zupełnie innej branży.

OpenAI, Broadcom i TSMC w jednym projekcie

Jalapeño to akcelerator służący do tak zwanej inferencji, który powstaje we współpracy z Broadcomem, a producentem układu jest znana w branży firma TSMC. Technologia ta wykorzystuje pamięć HBM4 Samsunga, najnowszej, szóstej generacji pamięć o bardzo wysokiej przepustowości, stosowaną głównie w serwerach i centrach danych. Jaka jest rola Samsunga w tym projekcie? Główny układ obliczeniowy powstaje w fabrykach konkurencyjnego producenta. Niemniej, ostateczna architektura podziału ról może się zmieniać, bowiem wiele kwestii pozostaje niejasnych. Nie zdziwiłbym się, gdyby OpenAI nie ujawniało wszystkiego publicznie, ponieważ na podobne informacje mogą być łase inne firmy, szczególnie w kontekście rozwoju ChatGPT.

Czytaj dalej poniżej


Elektronika, którą zabieram na wakacje. Te gadżety rozwiązują realne problemy

OpenAI podkreśliło na koniec sierpnia, że dzięki wsparciu modeli AI zespół przeszedł od początkowego projektu do fazy tape-out w zaledwie 9 miesięcy. Oznacza to zakończenie etapu projektowania przed produkcją, co wymaga dalszych testów i przygotowań do produkcji. Wdrożenie Jalapeño w infrastrukturze OpenAI ma rozpocząć się do końca 2026 roku, równolegle z opracowywaniem oprogramowania i przygotowaniem całości do działania na dużą skalę. Prace nad drugą generacją są już zaawansowane, a trzecia nabiera kształtu, co nie jest zaskoczeniem — twórca ChatGPT ma ambitne plany, aby zwiększyć moce obliczeniowe oraz poprawić efektywność swoich modeli w kolejnych iteracjach. Jednocześnie OpenAI potwierdziło, że będzie dążyć do dalszego wykorzystania akceleratorów Nvidii i innych partnerów w procesie treningu oraz inferencji.

Możliwości produkcji procesorów w Samsungu

Oszacowanie współpracy może obejmować również działalność Samsung Foundry, która zajmuje się produkcją układów na zlecenie, a także zaawansowanymi technologiami pakowania i łączenia z innymi komponentami oraz oprogramowaniem. Daje to Koreańczykom szansę na większe zaangażowanie w proces produkcji akceleratora i zwiększenie potencjalnych zysków. Na razie są to głównie spekulacje, a informacje na temat producenta, procesu technologicznego czy całkowitych zamówień pozostają w sferze niejawnej. Możliwe, że wkrótce nastąpią kolejne negocjacje, które obejmą nie tylko Samsung.

A dlaczego miałoby tak być? Ponieważ podobne plany ma również firma Anthropic. Według agencji Yonhap, rozważała ona wykorzystanie technologii 2 nm oferowanej przez Samsunga i jego zdolności do pakowania układów. Aktualnie rozmowy nie przeszły jednak w fazę szczegółowego projektowania, testów ani produkcji. W przypadku OpenAI najbliższym wyzwaniem pozostaje zapowiedziane wdrożenie Jalapeño, które zostanie wyprodukowane przez TSMC.

Czytaj również: DRAM-atu ciąg dalszy. Chińczycy mieli uratować rynek pamięci, a obecnie sytuacja wydaje się niepewna

Co to oznacza dla nas? Niestety, rosnąca potrzeba firm zajmujących się AI w zakresie sprzętu może nie skończyć się tylko na DRAM-ie. Kolejnym krokiem może być wykorzystanie mocy przerobowych producentów chipów, co mogłoby wywołać podobne skutki jak w przypadku pamięci, prowadząc do znacznego wzrostu cen. Już teraz możemy zauważyć sygnały nadchodzących podwyżek, co niepokoi zarówno konsumentów, jak i przedstawicieli branży. Jeżeli rynek AI wprowadzi wyższe ceny również na chipy, w ciągu kilku lat moglibyśmy doświadczyć zdrożenia wszelkich urządzeń, od tańszych smartfonów po komputery i ich komponenty. Biorąc pod uwagę, że rozwój modeli odbywa się w tempie wykładniczym, sytuacja może ulec znaczącej zmianie.