Η εταιρεία τσιπ Tenstorrent με επικεφαλής τον Jim Keller κυκλοφόρησε τον επεξεργαστή Wormhole επόμενης γενιάς για φόρτους εργασίας AI, ο οποίος αναμένει να προσφέρει καλή απόδοση σε προσιτή τιμή.Η εταιρεία προσφέρει επί του παρόντος δύο επιπλέον κάρτες PCIe που μπορούν να φιλοξενήσουν έναν ή δύο επεξεργαστές Wormhole, καθώς και σταθμούς εργασίας TT-LoudBox και TT-QuietBox για προγραμματιστές λογισμικού. Όλες οι σημερινές ανακοινώσεις απευθύνονται σε προγραμματιστές, όχι σε αυτούς που χρησιμοποιούν πλακέτες Wormhole για εμπορικούς φόρτους εργασίας.
«Είναι πάντα ευχάριστο να παίρνουμε περισσότερα από τα προϊόντα μας στα χέρια των προγραμματιστών. Τα συστήματα ανάπτυξης απελευθέρωσης που χρησιμοποιούν τις κάρτες μας Wormhole™ μπορούν να βοηθήσουν τους προγραμματιστές να κλιμακώσουν και να αναπτύξουν λογισμικό τεχνητής νοημοσύνης πολλαπλών τσιπ», δήλωσε ο Τζιμ Κέλερ, Διευθύνων Σύμβουλος της Tenstorrent.Εκτός από αυτό το λανσάρισμα, είμαστε ενθουσιασμένοι που βλέπουμε την πρόοδο που σημειώνουμε με την έξοδο και την ενεργοποίηση του προϊόντος δεύτερης γενιάς μας, Blackhole.»
Κάθε επεξεργαστής Wormhole περιέχει 72 πυρήνες Tensix (πέντε από τους οποίους υποστηρίζουν πυρήνες RISC-V σε διάφορες μορφές δεδομένων) και 108 MB SRAM, αποδίδοντας 262 FP8 TFLOPS στο 1 GHz με ισχύ θερμικής σχεδίασης 160 W. Η κάρτα Wormhole n150 ενός τσιπ είναι εξοπλισμένη με μνήμη βίντεο 12 GB GDDR6 και έχει εύρος ζώνης 288 GB/s.
Οι επεξεργαστές Wormhole παρέχουν ευέλικτη επεκτασιμότητα για την κάλυψη των διαφορετικών αναγκών του φόρτου εργασίας. Σε μια τυπική εγκατάσταση σταθμού εργασίας με τέσσερις κάρτες Wormhole n300, οι επεξεργαστές μπορούν να συνδυαστούν σε μια ενιαία μονάδα που εμφανίζεται στο λογισμικό ως ένα ενοποιημένο, ευρύ δίκτυο πυρήνων Tensix. Αυτή η διαμόρφωση επιτρέπει στον επιταχυντή να χειρίζεται τον ίδιο φόρτο εργασίας, να χωρίζει μεταξύ τεσσάρων προγραμματιστών ή να τρέχει έως και οκτώ διαφορετικά μοντέλα τεχνητής νοημοσύνης ταυτόχρονα. Ένα βασικό χαρακτηριστικό αυτής της επεκτασιμότητας είναι ότι μπορεί να εκτελεστεί τοπικά χωρίς την ανάγκη εικονικοποίησης. Σε περιβάλλον κέντρου δεδομένων, οι επεξεργαστές Wormhole θα χρησιμοποιούν PCIe για επέκταση στο εσωτερικό του μηχανήματος ή Ethernet για εξωτερική επέκταση.
Όσον αφορά την απόδοση, η κάρτα Wormhole n150 single-chip της Tenstorrent (72 πυρήνες Tensix, συχνότητα 1 GHz, 108 MB SRAM, 12 GB GDDR6, 288 GB/s εύρος ζώνης) πέτυχε 262 FP8 TFLOPS στα 160W20W, ενώ therm (128 πυρήνες Tensix, συχνότητα 1 GHz, 192 MB SRAM, συγκεντρωτικά 24 GB GDDR6, 576 GB/s εύρος ζώνης) παρέχει έως και 466 FP8 TFLOPS στα 300 W.
Για να βάλουμε τα 300W των 466 FP8 TFLOPS, θα τα συγκρίνουμε με αυτά που προσφέρει η Nvidia ηγέτης της αγοράς τεχνητής νοημοσύνης σε αυτή τη θερμική ισχύ σχεδιασμού. Το A100 της Nvidia δεν υποστηρίζει FP8, αλλά υποστηρίζει INT8, με μέγιστη απόδοση 624 TOPS (1.248 TOPS όταν είναι αραιή). Συγκριτικά, το H100 της Nvidia υποστηρίζει FP8 και επιτυγχάνει μέγιστη απόδοση 1.670 TFLOPS στα 300 W (3.341 TFLOPS σε αραιή), η οποία είναι σημαντικά διαφορετική από την Wormhole n300 της Tenstorrent.
Ωστόσο, υπάρχει ένα σημαντικό πρόβλημα. Το Wormhole n150 της Tenstorrent πωλείται για 999 $, ενώ το n300 πωλείται για 1.399 $. Συγκριτικά, μια μεμονωμένη κάρτα γραφικών Nvidia H100 κοστίζει 30.000 $, ανάλογα με την ποσότητα. Φυσικά, δεν γνωρίζουμε αν τέσσερις ή οκτώ επεξεργαστές Wormhole μπορούν πραγματικά να προσφέρουν την απόδοση ενός μόνο H300, αλλά τα TDP τους είναι 600W και 1200W αντίστοιχα.
Εκτός από τις κάρτες, το Tenstorrent προσφέρει προκατασκευασμένους σταθμούς εργασίας για προγραμματιστές, συμπεριλαμβανομένων 4 καρτών n300 στο πιο προσιτό Xeon TT-LoudBox με ενεργή ψύξη και το προηγμένο TT-QuietBox με λειτουργία υγρής ψύξης Xiaolong που βασίζεται σε EPYC).
Ώρα δημοσίευσης: Ιουλ-29-2024