Η Startup Gimlet Labs λύνει το πρόβλημα συμπερασμάτων AI με έναν εκπληκτικά κομψό τρόπο

Ο επίκουρος καθηγητής του Στάνφορντ και ο επιτυχώς αποχωρημένος ιδρυτής Zain Asgar μόλις συγκέντρωσε ένα ποσό 80 εκατομμυρίων δολαρίων Series A για μια startup που λύνει το πρόβλημα της συμφόρησης των συμπερασμάτων AI με έξυπνο τρόπο. Επικεφαλής του γύρου ήταν η Menlo Ventures.

Η εταιρεία, Εργαστήρια Gimletδημιούργησε αυτό που ισχυρίζεται ότι είναι το πρώτο και μοναδικό «σύννεφο συμπερασμάτων πολλαπλών πυριτίων», το οποίο είναι λογισμικό που επιτρέπει σε έναν φόρτο εργασίας AI να εκτελείται ταυτόχρονα σε διάφορους τύπους υλικού. Μπορεί να χωρίσει το έργο μιας εφαρμογής AI τόσο σε παραδοσιακές CPU όσο και σε GPU που έχουν συντονιστεί με AI, καθώς και σε συστήματα υψηλής μνήμης.

«Βασικά αντιμετωπίζουμε οποιοδήποτε διαφορετικό υλικό είναι διαθέσιμο», είπε ο Asgar στο TechCrunch.

Ένας μεμονωμένος πράκτορας μπορεί να συνδυάζει πολλαπλά βήματα και το καθένα «απαιτεί διαφορετικό υλικό: Το συμπέρασμα είναι συνδεδεμένο με υπολογισμό, η αποκωδικοποίηση δεσμεύεται στη μνήμη και οι κλήσεις εργαλείων δεσμεύονται σε δίκτυο», γράφει ο επικεφαλής επενδυτής, ο Tim Tully του Menlo, σε μια ανάρτηση ιστολογίου σχετικά με τη χρηματοδότηση.

Κανένα τσιπ δεν τα κάνει ακόμη όλα, αλλά καθώς κυκλοφορεί νέο υλικό και οι παλιές GPU επανατοποθετούνται, «ο στόλος πολλαπλών πυριτίων είναι έτοιμος — απλώς του λείπει το επίπεδο λογισμικού για να λειτουργήσει». Αυτό πιστεύει η Tully που προσφέρει η Gimlet Labs.

Εάν η τρέχουσα τάση ανάπτυξης-περισσότεροι-υπολογισμός συνεχιστεί, εκτιμά η McKinsey Οι δαπάνες για τα κέντρα δεδομένων θα ανέλθουν σε σχεδόν 7 τρισεκατομμύρια δολάρια έως το 2030. Ο Asgar λέει ότι οι εφαρμογές χρησιμοποιούν μόνο το υπάρχον υλικό που έχει ήδη αναπτυχθεί «κάπου μεταξύ 15 και 30 τοις εκατό» του χρόνου.

«Ένας άλλος τρόπος να το σκεφτείς αυτό: σπαταλάς εκατοντάδες δισεκατομμύρια δολάρια επειδή απλώς αφήνεις αδρανείς πόρους», είπε. «Ο στόχος μας ήταν βασικά να προσπαθήσουμε να καταλάβουμε πώς μπορείτε να κάνετε φόρτους εργασίας AI να είναι 10 φορές πιο αποτελεσματικοί από ποτέ, σήμερα».

Έτσι, αυτός και οι συνιδρυτές του, Michelle Nguyen, Omid Azizi και Natalie Serrino, άρχισαν να κατασκευάζουν λογισμικό ενορχήστρωσης που κόβει το φόρτο εργασίας των αντιπροσώπων έτσι ώστε να μπορούν να εξαπλωθούν ταυτόχρονα σε όλα τα είδη υλικού.

Η Gimlet Labs ισχυρίζεται ότι επιταχύνει αξιόπιστα τα συμπεράσματα τεχνητής νοημοσύνης κατά 3 φορές έως 10 φορές για το ίδιο κόστος και ισχύ. Η Gimlet λέει ότι μπορεί ακόμη και να κόψει σε φέτες το υποκείμενο μοντέλο έτσι ώστε να τρέχει σε διαφορετικές αρχιτεκτονικές, χρησιμοποιώντας το καλύτερο τσιπ για κάθε τμήμα του μοντέλου.

Η εταιρεία έχει ήδη συνεργαστεί με τους κατασκευαστές chip NVIDIA, AMD, Intel, ARM, Cerebras και d-Matrix.

Το προϊόν της Gimlet, που παραδίδεται είτε ως λογισμικό είτε μέσω ενός API στο δικό της Gimlet Cloud, δεν προορίζεται για τον προγραμματιστή εφαρμογών τεχνητής νοημοσύνης κατάταξης και αρχείων. Είναι για τα μεγαλύτερα εργαστήρια μοντέλων AI και κέντρα δεδομένων.

Η εταιρεία κυκλοφόρησε δημόσια τον Οκτώβριο με, είπε, οκταψήφια έσοδα εκτός πύλης (άρα τουλάχιστον 10 εκατομμύρια δολάρια). Ο Άσγκαρ είπε ότι η πελατειακή του βάση έχει υπερδιπλασιαστεί τους τελευταίους τέσσερις μήνες και τώρα περιλαμβάνει έναν μεγάλο κατασκευαστή μοντέλων και μια εξαιρετικά μεγάλη εταιρεία υπολογιστών cloud, αν και αρνήθηκε να τους κατονομάσει.

Οι συνιδρυτές είχαν συνεργαστεί στο παρελθόν στην Pixie, μια startup που δημιούργησε ένα εργαλείο παρατηρητικότητας ανοιχτού κώδικα για την Kubernetes. Η Pixie εξαγοράστηκε από τη New Relic το 2020, μόλις δύο μήνες μετά την κυκλοφορία της με μια σειρά 9 εκατομμυρίων δολαρίων με επικεφαλής τον Benchmark. (Η τεχνολογία της Pixie είναι πλέον μέρος του οργανισμού ανοιχτού κώδικα που επιβλέπει το Kubernetes.)

Αφού ο Asgar συνάντησε τυχαία τον Tully πριν από περίπου ένα χρόνο και έλαβε επίσης επενδύσεις αγγέλων από καθηγητές του Stanford, οι VC άρχισαν να τηλεφωνούν. Μετά την εκτόξευση, ένα φύλλο όρων προσγειώθηκε στο γραφείο του Asgar. Όταν οι VC άκουσαν ότι ο Asgar κοίταζε προσφορές, «λάβαμε ένα αρκετά μεγάλο σμήνος χρηματοδότησης» και ο γύρος υπερκαλύφθηκε γρήγορα, είπε.

Με την προηγούμενη σειρά, η startup έχει συγκεντρώσει τώρα συνολικά 92 εκατομμύρια δολάρια, μεταξύ άλλων από μια σειρά αγγέλων όπως ο Bill Coughran της Sequoia, ο καθηγητής του Stanford Nick McKeown, ο πρώην διευθύνων σύμβουλος της VMware Raghu Raghuram και ο CEO της Intel, Lip-Bu Tan. Η εταιρεία απασχολεί σήμερα 30 άτομα.

Άλλοι επενδυτές περιλαμβάνουν την Factory, η οποία ηγήθηκε του seed, η Eclipse Ventures, η Prosperity7 και η Triatomic.