Κάθε φορά που απευθύνεστε στο ChatGPT, ενεργοποιείτε μια σύνθετη διαδικασία επεξεργασίας δεδομένων. Οι πληροφορίες μεταφέρονται από τη μνήμη σε επεξεργαστές για προεπεξεργασία, ύστερα σε GPU για υπολογισμούς και τελικά επιστρέφουν — η διαδικασία αυτή επαναλαμβάνεται για κάθε λέξη που παράγει η τεχνητή νοημοσύνη.
Το σημείο συμφόρησης έγκειται στη δομή — απαιτεί τη χρήση μερικών από τα πιο δαπανηρά και ενεργοβόρα τσιπ της βιομηχανίας για κάθε αίτημα. Αυτή η αναποτελεσματικότητα είναι ακριβώς το πρόβλημα που προσπαθεί να επιλύσει η XCENA, μια startup με γραφεία στη Νότια Κορέα και τις ΗΠΑ. Εδώ και τέσσερα χρόνια, η startup έχει δημιουργήσει ένα τσιπ που φέρνει τις υπολογιστικές δυνατότητες πιο κοντά στη DRAM, τη γρήγορη μνήμη που χρησιμοποιείται ενεργά από τους επεξεργαστές, επιτρέποντας τη διαχείριση δεδομένων κοντά στη μνήμη, χωρίς τις δαπανηρές μεταφορές μεταξύ CPU, GPU και μνήμης.
Η πιθανή μεταρρύθμιση του κόστους υποδομής τεχνητής νοημοσύνης είναι εντυπωσιακή, κάτι που έχει προκαλέσει σημαντικό ενδιαφέρον μεταξύ επενδυτών. Η XCENA πρόσφατα ολοκλήρωσε έναν γύρο χρηματοδότησης 135 εκατομμυρίων δολαρίων στη Σειρά Β, ερχόμενη με αποτίμηση 570 εκατομμυρίων δολαρίων, αυξάνοντας συνολικά το κεφάλαιό της στα 185 εκατομμύρια δολάρια.
Ο Διευθύνων Σύμβουλος της XCENA, Jin Kim, συνίδρυσε την εταιρεία το 2022, συνεργαζόμενος με τους βετεράνους της Samsung και της SK Hynix, Dohun Kim και Harry Juhyun Kim. «Οι CPU και οι GPU έχουν αναπτυχθεί νοητικά με τα χρόνια, αλλά η μνήμη δεν έχει ακολουθήσει την ίδια πορεία. Η XCENA επιδιώκει να αλλάξει αυτή την κατάσταση» δήλωσε ο Kim σε συνέντευξή του στο TechCrunch. Τόνισε επίσης ότι η πρόσφατη άνοδος τιμών στη μνήμη υποδεικνύει μια στροφή στην υποδομή τεχνητής νοημοσύνης προς αρχιτεκτονικές που επικεντρώνονται στη μνήμη.
Η XCENA αποβλέπει στο γεγονός ότι «η παραγωγή συμπερασμάτων δεν είναι απλώς θέμα υπολογισμού, αλλά εξελίσσεται σε πρόβλημα κλίμακας μνήμης» εξήγησε ο Kim.
Το τσιπ της XCENA, το MX1, συνδέεται με την CPU μέσω του Compute Express Link (CXL), παρέχοντας έναν αποκλειστικό δίαυλο μεταξύ του επεξεργαστή και της μνήμης, επιτρέποντας την επεξεργασία δεδομένων πριν τις διαδρομές επιστροφής από τη μονάδα μνήμης. Φέρνει τον υπολογισμό πιο κοντά στα δεδομένα, αντί το αντίστροφο. Σύμφωνα με την εταιρεία, οι διαδικασίες που απαιτούσαν 10 διακομιστές θα μπορούσαν να εκτελούνται με μόλις έναν διακομιστή.
«Ενώ οι GPU είναι εξαιρετικές στον πολλαπλασιασμό μήτρας — το θεμέλιο της εκπαίδευσης μοντέλων τεχνητής νοημοσύνης — πολλές εργασίες, όπως η προεπεξεργασία και η διαχείριση κρυφής μνήμης, πραγματοποιούνται ακόμα σε CPU. Το τσιπ μας χειρίζεται αυτές τις διαδικασίες απευθείας στη μνήμη» σημείωσε ο Kim.
Η ζήτηση για λύσεις μνήμης αυξάνεται συνεχώς από το δεύτερο εξάμηνο του προηγούμενου έτους, γεγονός που η εταιρεία εκμεταλλεύεται προς όφελός της.
Η XCENA βρίσκεται σε πρώιμες συνομιλίες με παγκόσμιους προμηθευτές μνήμης, αν και η Kim απέφυγε να αποκαλύψει ονόματα. Οι πελάτες στόχοι της είναι οι υπερκλιμακωτές που ξοδεύουν δισεκατομμύρια ετησίως σε υποδομές τεχνητής νοημοσύνης, με το όφελος από μικρές βελτιώσεις στην απόδοση μνήμης να μπορεί να αποφέρει σημαντικές εξοικονομήσεις.
Το MX1 επενδύεται σε πρωτότυπη μορφή. Η παραγωγή μαζικών τσιπ προγραμματίζεται να ξεκινήσει στα εργοστάσια της Samsung το 2026, με την εταιρεία να αναμένει έσοδα από το 2027.
Ενώ οι κατασκευαστές νευρωνικών επεξεργαστών (NPU) ανταγωνίζονται τις GPU της Nvidia για φορτία εργασίας εκπαίδευσης, η XCENA στοχεύει να εστιάσει στις κρίσιμες ανάγκες μνήμης κάτω από το επίπεδο αυτό.
Οι βασικοί ανταγωνιστές της XCENA περιλαμβάνουν τις Astera Labs και Marvell, που εργάζονται στη συνδεσιμότητα μνήμης επόμενης γενιάς. Η Marvell είναι ήδη στον τομέα, και η Kim τονίζει ότι η διαφορά τους έγκειται στην πνευματική ιδιοκτησία τους. «Διαθέτουμε χιλιάδες πυρήνες» είπε ο Kim, ενώ η προσέγγιση της Marvell είναι πιο περιορισμένη.
Οι πυρήνες της XCENA βασίζονται στο RISC-V, ένα ανοικτό σχέδιο, σχεδιασμένο ειδικά για την επεξεργασία δεδομένων, με στόχο την αποτελεσματικότητα. Ταυτόχρονα, η XCENA αναπτύσσει τη δική της ιεραρχία μνήμης και διασύνδεσης, τελείως ολοκληρωμένη για τις ανάγκες τους, κάτι που οι περισσότεροι ανταγωνιστές συχνά αναθέτουν σε τρίτους.
Οι εταιρείες VC με έδρα τη Σεούλ, όπως η Altinum και η IMM Investment, ηγούνται στον γύρο χρηματοδότησης της Series B, μαζί με την Corstone Asia και άλλους υπάρχοντες επενδυτές. Η εταιρεία, με πάνω από 90 υπαλλήλους στα γραφεία της στο Pangyo και στο Sunnyvale, διεξάγει επίσης συζητήσεις με διεθνείς επενδυτές για περαιτέρω χρηματοδότηση.
Όταν αγοράζετε μέσω συνδέσμων στα άρθρα μας, ενδέχεται να κερδίσουμε μια μικρή προμήθεια. Αυτό δεν επηρεάζει τη συντακτική μας ανεξαρτησία.
