Η εταιρεία Chip Company με επικεφαλής τον Jim Keller έχει κυκλοφορήσει τον επεξεργαστή της σκουληκότρυπας επόμενης γενιάς για τους φόρτους εργασίας της AI, το οποίο αναμένει να προσφέρει καλές επιδόσεις σε προσιτή τιμή.Η εταιρεία προσφέρει επί του παρόντος δύο επιπλέον κάρτες PCIE που μπορούν να φιλοξενήσουν έναν ή δύο επεξεργαστές σκουληκότρυπας, καθώς και τους σταθμούς εργασίας TT-Loudbox και TT-Qietbox για προγραμματιστές λογισμικού. Όλες οι σημερινές ανακοινώσεις απευθύνονται σε προγραμματιστές, όχι εκείνους που χρησιμοποιούν σανίδες σκουληκιών για εμπορικούς φόρτους εργασίας.
"Είναι πάντα ευχάριστο να πάρουμε περισσότερα από τα προϊόντα μας στα χέρια των προγραμματιστών. Η απελευθέρωση των αναπτυξιακών συστημάτων που χρησιμοποιούν τις κάρτες Wormhole ™ μπορούν να βοηθήσουν τους προγραμματιστές να κλιμακώσουν και να αναπτύξουν λογισμικό AI πολλαπλών τσιπ", δήλωσε ο Jim Keller, Διευθύνων Σύμβουλος του Tenstorrent.Εκτός από αυτό το λανσάρισμα, είμαστε ενθουσιασμένοι που βλέπουμε την πρόοδο που κάνουμε με την ταινία έξω και power-up του προϊόντος δεύτερης γενιάς μας, Blackhole. "
Κάθε επεξεργαστής σκουληκότρυπας περιέχει 72 πυρήνες Tensix (πέντε από τους οποίους υποστηρίζουν πυρήνες RISC-V σε διάφορες μορφές δεδομένων) και 108 MB του SRAM, παρέχοντας 262 FP8 Tflops σε 1 GHz με θερμική ισχύ σχεδιασμού 160W. Η κάρτα N150 με σκουληκότρυπα μονής τσιπ είναι εξοπλισμένη με μνήμη βίντεο GDDR6 12 GB και διαθέτει εύρος ζώνης 288 GB/s.
Οι επεξεργαστές σκουληκότρυπας παρέχουν ευέλικτη επεκτασιμότητα για να καλύψουν τις ποικίλες ανάγκες του φόρτου εργασίας. Σε μια τυποποιημένη ρύθμιση σταθμού εργασίας με τέσσερις κάρτες Wormhole N300, οι επεξεργαστές μπορούν να συνδυαστούν σε μια ενιαία μονάδα που εμφανίζεται στο λογισμικό ως ενοποιημένο δίκτυο Core Tensix Core. Αυτή η διαμόρφωση επιτρέπει στον επιταχυντή να χειρίζεται τον ίδιο φόρτο εργασίας, να χωρίσει μεταξύ τεσσάρων προγραμματιστών ή να τρέχει μέχρι και οκτώ διαφορετικά μοντέλα AI ταυτόχρονα. Ένα βασικό χαρακτηριστικό αυτής της επεκτασιμότητας είναι ότι μπορεί να τρέξει τοπικά χωρίς την ανάγκη για εικονικοποίηση. Σε ένα περιβάλλον κέντρου δεδομένων, οι επεξεργαστές σκουληκότρυπας θα χρησιμοποιούν PCIE για επέκταση μέσα στο μηχάνημα ή Ethernet για εξωτερική επέκταση.
Από την άποψη της απόδοσης, η κάρτα N150 του Tenstorrent (72 πυρήνες Tensix, 1 GHz συχνότητα, 108 MB SRAM, 128 GB GDDR6, 288 GB/S Bandwidth) GB GDDR6, 576 GB/S Bandwidth) Παρέχει έως και 466 FP8 TFLOPS σε 300W.
Για να βάλουμε 300W 466 FP8 Tflops στο πλαίσιο, θα το συγκρίνουμε με το τι προσφέρει η Nvidia η Nvidia σε αυτή τη δύναμη θερμικού σχεδιασμού. Το A100 της NVIDIA δεν υποστηρίζει το FP8, αλλά υποστηρίζει την Int8, με μέγιστη απόδοση 624 κορυφών (1.248 κορυφές όταν είναι αραιά). Συγκριτικά, το H100 της NVIDIA υποστηρίζει το FP8 και φτάνει στην κορυφαία απόδοση των 1.670 TFLOPS στα 300W (3.341 TFLOPS στο SPATSE), το οποίο διαφέρει σημαντικά από τη σκουληκότρυπα N300 του Tenstorrent.
Ωστόσο, υπάρχει ένα σημαντικό πρόβλημα. Η σκουληκότρυπα N150 του TenStorrent διατίθεται για $ 999, ενώ το N300 πωλεί για $ 1.399. Συγκριτικά, μία κάρτα γραφικών NVIDIA H100 διατίθεται για $ 30.000, ανάλογα με την ποσότητα. Φυσικά, δεν γνωρίζουμε αν τέσσερις ή οκτώ επεξεργαστές σκουληκότρυπας μπορούν πραγματικά να παραδώσουν την απόδοση ενός μόνο H300, αλλά τα TDPs είναι 600W και 1200W αντίστοιχα.
Εκτός από τις κάρτες, το TenStorrent προσφέρει προ-κατασκευασμένους σταθμούς εργασίας για προγραμματιστές, συμπεριλαμβανομένων 4 καρτών N300 στο πιο προσιτό TT-Loudbox με βάση το Xeon με ενεργό ψύξη και το Advanced TT-Qietbox με λειτουργία ψύξης με βάση το EPYC).
Χρόνος δημοσίευσης: Ιουλ-29-2024