Największy i najwydajniejszy, niczym ludzki mózg. Procesor Cerebras CS-2 to dzieło, którego świat technologii nie zapomni
Firma Cerebras Systems pochwaliła się tym, co uważa za pierwszy taki system komputerowy na bazie sztucznej inteligencji, dorównujący skalą ludzkiemu mózgowi. Ten może bowiem obsługiwać modele SI ze 120 trylionów parametrów, czyli osobnych części modelu, składających się na algorytmy uczenia maszynowego. Tym samym przewyższa 100 trylionów synaps obecnych w naszych mózgach, a w porównaniu do obecnie powszechnych sprzętów do obliczeń SI, przewyższa je 120-krotnie.
Czytaj też: Dane przesyłane światłem i sygnałami elektrycznymi jednocześnie. To nie fikcja, to nośnik z perowskitu
Taką wydajność CS-2, czyli najszybszy procesor SI znany ludzkości, zawdzięcza już samej swojej fizyczności. Posiada bowiem aż 850000 rdzeni rozłożonych na wyprodukowanej w 7nm procesie technologicznym matrycy krzemowej o wielkości 46225 milimetrów kwadratowych. To w niej znalazło się 2,6 biliona tranzystorów i wspomnianych rdzeni. W odpowiednim połączeniu systemy na bazie CS-2 mogą oferować do 162 milionów tych wyjątkowych rdzeni zoptymalizowanych pod kątem sztucznej inteligencji, aby odblokować jeszcze większą wydajność.
Czytaj też: Tak przełączają się atomy. Naukowcom udało się uwiecznić ten proces
Przy tym wszystkim nieco skromnym wydaje się pokład najważniejszej 40 GB pamięci SRAM (nie DRAM), ale z drugiej strony wystarczy po prostu dołożyć procesorowi Cerebras CS-2 pamięć podręczną “z zewnątrz”, aby nie ograniczać rozmiaru modelu SI. To zresztą wymagało stworzenia systemu odpowiadającego skalą ludzkiemu mózgowi i tak oto wchodzimy najwyraźniej w nową erę rozwoju sztucznej inteligencji.
Cerebras Systems ciekawie rozwiązało problem skalowalności, który przy 20 petabajtach przepustowości pamięci i 220 petabitach łącznej przepustowości sieci szkieletowej, stanowił ogromne wyzwanie, aby umożliwić komunikację między wieloma procesorami CS-2. To powodowało problemy nie tylko z chłodzeniem, ale też zasilaniem, bo tylko jeden CS-2 pobiera 15 kW.
Czytaj też: Najmniejszy superkondensator na świecie dorównuje bateriom AAA. To nano-biosuperkondensator
Rozwiązanie? Cerebras po prostu postanowiło przechowywać wszystkie parametry modelu SI poza chipem w szafce MemoryX, jednocześnie utrzymując model na procesorach, które wtedy mogą wspólnie pracować nad danym modelem.