Η εταιρεία τσιπ Tenstorrent, με επικεφαλής τον Jim Keller, κυκλοφόρησε τον επεξεργαστή Wormhole επόμενης γενιάς για workloads AI, ο οποίος αναμένει να προσφέρει καλή απόδοση σε προσιτή τιμή.Η εταιρεία προσφέρει αυτήν τη στιγμή δύο επιπλέον κάρτες PCIe που μπορούν να φιλοξενήσουν έναν ή δύο επεξεργαστές Wormhole, καθώς και σταθμούς εργασίας TT-LoudBox και TT-QuietBox για προγραμματιστές λογισμικού. Όλες οι σημερινές ανακοινώσεις απευθύνονται σε προγραμματιστές και όχι σε όσους χρησιμοποιούν μητρικές Wormhole για εμπορικά φόρτα εργασίας.
«Είναι πάντα ικανοποιητικό να φέρνουμε περισσότερα από τα προϊόντα μας στα χέρια των προγραμματιστών. Τα συστήματα ανάπτυξης κυκλοφοριών που χρησιμοποιούν τις κάρτες Wormhole™ μπορούν να βοηθήσουν τους προγραμματιστές να επεκταθούν και να αναπτύξουν λογισμικό τεχνητής νοημοσύνης πολλαπλών τσιπ», δήλωσε ο Jim Keller, Διευθύνων Σύμβουλος της Tenstorrent.Εκτός από αυτήν την κυκλοφορία, είμαστε ενθουσιασμένοι που βλέπουμε την πρόοδο που σημειώνουμε με την τοποθέτηση της ταινίας και την ενεργοποίηση του προϊόντος δεύτερης γενιάς μας, Blackhole.
Κάθε επεξεργαστής Wormhole περιέχει 72 πυρήνες Tensix (πέντε εκ των οποίων υποστηρίζουν πυρήνες RISC-V σε διάφορες μορφές δεδομένων) και 108 MB SRAM, παρέχοντας 262 FP8 TFLOPS στο 1 GHz με θερμική ισχύ σχεδιασμού 160W. Η κάρτα Wormhole n150 ενός τσιπ είναι εξοπλισμένη με μνήμη βίντεο GDDR6 12 GB και έχει εύρος ζώνης 288 GB/s.
Οι επεξεργαστές Wormhole παρέχουν ευέλικτη επεκτασιμότητα για την κάλυψη των ποικίλων αναγκών των φόρτων εργασίας. Σε μια τυπική ρύθμιση σταθμού εργασίας με τέσσερις κάρτες Wormhole n300, οι επεξεργαστές μπορούν να συνδυαστούν σε μία ενιαία μονάδα που εμφανίζεται στο λογισμικό ως ένα ενοποιημένο, ευρύ δίκτυο πυρήνα Tensix. Αυτή η διαμόρφωση επιτρέπει στον επιταχυντή να χειρίζεται το ίδιο φόρτο εργασίας, να το μοιράζεται μεταξύ τεσσάρων προγραμματιστών ή να εκτελεί έως και οκτώ διαφορετικά μοντέλα AI ταυτόχρονα. Ένα βασικό χαρακτηριστικό αυτής της επεκτασιμότητας είναι ότι μπορεί να εκτελείται τοπικά χωρίς την ανάγκη εικονικοποίησης. Σε ένα περιβάλλον κέντρου δεδομένων, οι επεξεργαστές Wormhole θα χρησιμοποιούν PCIe για επέκταση εντός του μηχανήματος ή Ethernet για εξωτερική επέκταση.
Όσον αφορά την απόδοση, η μονοτσιπ κάρτα Wormhole n150 της Tenstorrent (72 πυρήνες Tensix, συχνότητα 1 GHz, 108 MB SRAM, 12 GB GDDR6, εύρος ζώνης 288 GB/s) πέτυχε 262 FP8 TFLOPS στα 160W, ενώ η διπλού τσιπ πλακέτα Wormhole n300 (128 πυρήνες Tensix, συχνότητα 1 GHz, 192 MB SRAM, συνολικό εύρος ζώνης 24 GB GDDR6, εύρος ζώνης 576 GB/s) προσφέρει έως και 466 FP8 TFLOPS στα 300W.
Για να θέσουμε τα 300W των 466 FP8 TFLOPS στο σωστό πλαίσιο, θα τα συγκρίνουμε με αυτά που προσφέρει η Nvidia, ηγέτιδα στην αγορά τεχνητής νοημοσύνης, σε αυτήν την ισχύ θερμικού σχεδιασμού. Η A100 της Nvidia δεν υποστηρίζει FP8, αλλά υποστηρίζει INT8, με μέγιστη απόδοση 624 TOPS (1.248 TOPS όταν είναι sparse). Συγκριτικά, η H100 της Nvidia υποστηρίζει FP8 και φτάνει σε μέγιστη απόδοση 1.670 TFLOPS στα 300W (3.341 TFLOPS σε sparse), η οποία διαφέρει σημαντικά από την Wormhole n300 της Tenstorrent.
Ωστόσο, υπάρχει ένα σημαντικό πρόβλημα. Η Wormhole n150 της Tenstorrent πωλείται λιανικά στην τιμή των 999$, ενώ η n300 στην τιμή των 1.399$. Συγκριτικά, μια μόνο κάρτα γραφικών Nvidia H100 πωλείται στην τιμή των 30.000$, ανάλογα με την ποσότητα. Φυσικά, δεν γνωρίζουμε αν τέσσερις ή οκτώ επεξεργαστές Wormhole μπορούν στην πραγματικότητα να προσφέρουν την απόδοση μιας μόνο H300, αλλά τα TDP τους είναι 600W και 1200W αντίστοιχα.
Εκτός από τις κάρτες, η Tenstorrent προσφέρει προκατασκευασμένους σταθμούς εργασίας για προγραμματιστές, συμπεριλαμβανομένων 4 καρτών n300 στο πιο οικονομικό TT-LoudBox με ενεργή ψύξη που βασίζεται σε Xeon και στο προηγμένο TT-QuietBox με λειτουργία υγρής ψύξης Xiaolong που βασίζεται σε EPYC.
Ώρα δημοσίευσης: 29 Ιουλίου 2024