Η Multiverse Computing ωθεί τα μοντέλα της με συμπιεσμένο AI στην επικρατούσα τάση

Με τις προεπιλογές ιδιωτικής εταιρείας να τρέχουν στο άνω του 9,2% — το υψηλότερο ποσοστό εδώ και χρόνια — Η εταιρεία VC Lux Capital συμβούλεψε πρόσφατα τις εταιρείες που βασίζονται στην τεχνητή νοημοσύνη να λάβουν τις δεσμεύσεις τους για υπολογιστική ικανότητα επιβεβαιώνεται γραπτώς. Με την οικονομική αστάθεια να κυματίζει την αλυσίδα εφοδιασμού με τεχνητή νοημοσύνη, προειδοποίησε ο Λουξ, μια συμφωνία χειραψίας δεν αρκεί.

Αλλά υπάρχει μια άλλη επιλογή εντελώς, η οποία είναι να σταματήσουμε να βασιζόμαστε εντελώς στην εξωτερική υπολογιστική υποδομή. Τα μικρότερα μοντέλα τεχνητής νοημοσύνης που εκτελούνται απευθείας στη συσκευή ενός χρήστη – χωρίς κέντρο δεδομένων, χωρίς πάροχο cloud, χωρίς κίνδυνο αντισυμβαλλομένου – γίνονται αρκετά καλά ώστε να αξίζει να ληφθούν υπόψη. Και Multiverse Computing σηκώνει το χέρι.

Η ισπανική startup έχει μέχρι στιγμής διατηρήσει χαμηλότερο προφίλ από ό,τι ορισμένοι από τους ομολόγους της, αλλά καθώς η ζήτηση για αποτελεσματικότητα AI αυξάνεται, αυτό αλλάζει. Μετά τη συμπίεση μοντέλων από μεγάλα εργαστήρια τεχνητής νοημοσύνης, συμπεριλαμβανομένων των OpenAI, Meta, DeepSeek και Mistral AI, κυκλοφόρησε τόσο μια εφαρμογή που παρουσιάζει τις δυνατότητες των συμπιεσμένων μοντέλων της όσο και μια πύλη API – μια πύλη που επιτρέπει στους προγραμματιστές να έχουν πρόσβαση και να δημιουργούν με αυτά τα μοντέλα – που τα καθιστά ευρύτερα διαθέσιμα.

Ο Εφαρμογή CompactifAIτο οποίο μοιράζεται το όνομά του με την τεχνολογία συμπίεσης που εμπνέεται από κβαντική τεχνολογία του Multiverse, είναι ένα εργαλείο συνομιλίας AI σύμφωνα με το ChatGPT ή το Le Chat του Mistral. Κάντε μια ερώτηση και το μοντέλο απαντά. Η διαφορά είναι ότι το Multiverse ενσωμάτωσε το Gilda, ένα μοντέλο τόσο μικρό που μπορεί να λειτουργεί τοπικά και εκτός σύνδεσης, σύμφωνα με την εταιρεία.

Για τους τελικούς χρήστες, αυτή είναι μια γεύση της τεχνητής νοημοσύνης στην άκρη, με δεδομένα που δεν φεύγουν από τις συσκευές τους και δεν απαιτούν σύνδεση. Υπάρχει όμως μια προειδοποίηση: οι φορητές συσκευές τους πρέπει να έχουν αρκετή μνήμη RAM και αποθηκευτικό χώρο. Εάν δεν το κάνουν – και πολλά παλαιότερα iPhone δεν το κάνουν – η εφαρμογή επιστρέφει σε μοντέλα που βασίζονται σε σύννεφο μέσω API. Η δρομολόγηση μεταξύ τοπικής επεξεργασίας και επεξεργασίας cloud γίνεται αυτόματα από ένα σύστημα που η Multiverse ονομάζει Ash Nazg, το όνομα του οποίου θα χτυπήσει ένα καμπανάκι για τους θαυμαστές του Tolkien καθώς αναφέρεται στην επιγραφή του One Ring στο «The Lord of the Rings». Αλλά όταν η εφαρμογή δρομολογείται στο cloud, χάνει το κύριο πλεονέκτημα απορρήτου στη διαδικασία.

Αυτοί οι περιορισμοί σημαίνουν ότι το CompactifAI δεν είναι ακόμη έτοιμο για μαζική υιοθέτηση από τους πελάτες, αν και αυτός μπορεί να μην ήταν ποτέ ο στόχος. Σύμφωνα με στοιχεία του Sensor Tower, η εφαρμογή είχε λιγότερες από 5.000 λήψεις τον περασμένο μήνα.

Ο πραγματικός στόχος είναι οι επιχειρήσεις. Σήμερα, το Multiverse λανσάρει ένα πύλη API αυτοεξυπηρέτησης που παρέχει στους προγραμματιστές και τις επιχειρήσεις άμεση πρόσβαση στα συμπιεσμένα μοντέλα του — δεν απαιτείται AWS Marketplace.

«Η πύλη CompactifAI API 1773909446 δίνει στους προγραμματιστές άμεση πρόσβαση σε συμπιεσμένα μοντέλα με τη διαφάνεια και τον έλεγχο που απαιτούνται για την εκτέλεση τους στην παραγωγή», δήλωσε ο CEO Enrique Lizaso σε δήλωση.

Η παρακολούθηση της χρήσης σε πραγματικό χρόνο είναι ένα από τα βασικά χαρακτηριστικά του API και αυτό δεν είναι τυχαίο. Εκτός από τα πιθανά πλεονεκτήματα της ανάπτυξης στην αιχμή, το χαμηλότερο κόστος υπολογισμού είναι ένας από τους κύριους λόγους για τους οποίους οι επιχειρήσεις εξετάζουν μικρότερα μοντέλα ως εναλλακτική λύση στα μεγάλα γλωσσικά μοντέλα (LLM).

Βοηθά επίσης ότι τα μικρά μοντέλα είναι λιγότερο περιορισμένα από ό,τι ήταν παλιά. Νωρίτερα αυτή την εβδομάδα, η Mistral ενημέρωσε τη μικρή της οικογένεια μοντέλων με το εκτόξευση του Mistral Small 4το οποίο λέει ότι είναι ταυτόχρονα βελτιστοποιημένο για γενική συνομιλία, κωδικοποίηση, πρακτορικές εργασίες και συλλογισμό. Η γαλλική εταιρεία κυκλοφόρησε επίσης το Forge, ένα σύστημα που επιτρέπει στις επιχειρήσεις να κατασκευάζουν προσαρμοσμένα μοντέλα, συμπεριλαμβανομένων μικρών μοντέλων για τα οποία μπορούν να επιλέξουν τις ανταλλαγές που μπορούν να ανεχθούν καλύτερα οι περιπτώσεις χρήσης τους.

Τα πρόσφατα αποτελέσματα της Multiverse υποδηλώνουν επίσης ότι το χάσμα με τα LLM μειώνεται. Το πιο πρόσφατο συμπιεσμένο μοντέλο του, HyperNova 60B 2602, είναι χτισμένο στο gpt-oss-120b — ένα μοντέλο OpenAI του οποίου ο υποκείμενος κώδικας είναι διαθέσιμος στο κοινό. Η εταιρεία ισχυρίζεται ότι τώρα παραδίδει ταχύτερες απαντήσεις με χαμηλότερο κόστος από το αρχικό από το οποίο προήλθε, ένα πλεονέκτημα που έχει ιδιαίτερη σημασία για τις ροές εργασιών κωδικοποίησης agent, όπου το AI ολοκληρώνει αυτόνομα πολύπλοκες εργασίες προγραμματισμού πολλαπλών βημάτων.

Το να κάνετε μοντέλα αρκετά μικρά ώστε να λειτουργούν σε κινητές συσκευές, ενώ παραμένουν χρήσιμα είναι μια μεγάλη πρόκληση. Η Apple Intelligence παρέκαμψε αυτό το ζήτημα συνδυάζοντας ένα μοντέλο στη συσκευή και ένα μοντέλο cloud. Η εφαρμογή CompactifAI της Multiverse μπορεί επίσης να δρομολογήσει αιτήματα στο gpt-oss-120b μέσω API, αλλά ο κύριος στόχος της είναι να δείξει ότι τοπικά μοντέλα όπως η Gilda και οι μελλοντικές αντικαταστάσεις της έχουν πλεονεκτήματα που υπερβαίνουν την εξοικονόμηση κόστους.

Για τους εργαζόμενους σε κρίσιμα πεδία, ένα μοντέλο που μπορεί να εκτελεστεί τοπικά και χωρίς σύνδεση στο cloud προσφέρει μεγαλύτερη προστασία της ιδιωτικής ζωής και ανθεκτικότητα. Αλλά η μεγαλύτερη αξία είναι στις περιπτώσεις επαγγελματικής χρήσης που μπορεί να ξεκλειδώσει – για παράδειγμα, η ενσωμάτωση της τεχνητής νοημοσύνης σε drones, δορυφόρους και άλλες ρυθμίσεις όπου η συνδεσιμότητα δεν μπορεί να θεωρηθεί δεδομένη.

Η εταιρεία εξυπηρετεί ήδη περισσότερους από 100 πελάτες παγκοσμίως, συμπεριλαμβανομένων των Bank of Canada, Bosch και Iberdrola, αλλά η επέκταση της πελατειακής της βάσης θα μπορούσε να τη βοηθήσει να ξεκλειδώσει περισσότερη χρηματοδότηση. Μετά τη συγκέντρωση $215 εκατομμυρίων Series B πέρυσι, είναι τώρα φημολογείται ότι συγκεντρώνει νέο γύρο χρηματοδότησης 500 εκατομμυρίων ευρώ σε αποτίμηση άνω του 1,5 δισ. ευρώ.