Η νέα συμπίεση AI της Google θα μπορούσε να βοηθήσει στη μείωση των τιμών της RAM

Ο κόσμος των ηλεκτρονικών είναι ένα πολύ ενδιαφέρον μέρος αυτή τη στιγμή, κυρίως λόγω της συνεχιζόμενης αύξησης των τιμών και των αλλαγών που βλέπουμε στον κλάδο. Οι περισσότερες από αυτές τις προσαρμογές τιμών προωθούνται εν μέρει χάρη στη συνεχιζόμενη έλλειψη chip που προκαλείται από την τεχνητή νοημοσύνη, η οποία συμβάλλει στην αύξηση του κόστους της μνήμης RAM, με τη σειρά της να κάνει τους υπολογιστές να κοστίζουν περισσότερο. Αυξήσεις τιμών για κονσόλες παιχνιδιών, έξυπνες τηλεοράσεις και χρήσιμα gadget σημειώνονται επίσης. Ωστόσο, θα μπορούσε να υπάρξει ένας σωτήρας στο δρόμο της, καθώς η Google δημοσίευσε λεπτομέρειες σχετικά με ένα νέο σύστημα συμπίεσης που έχει σχεδιαστεί για να κάνει την τεχνητή νοημοσύνη πιο αποτελεσματική στον τρόπο διαχείρισης της μνήμης RAM, βοηθώντας έτσι τα τεράστια νέα κέντρα δεδομένων που βλέπουμε να εμφανίζονται να χρειάζονται λιγότερο από το στοιχείο.

Ο Matthew Prince, Διευθύνων Σύμβουλος και συνιδρυτής της Cloudflare, είπε ότι ο αλγόριθμος είναι “Το DeepSeek της Google,” στο X, αναμφίβολα μια αναφορά στο πώς το DeepSeek AI έγινε δημοφιλές βελτιώνοντας δραστικά τον τρόπο με τον οποίο εκπαιδεύονται μεγάλα γλωσσικά μοντέλα και χρησιμοποιούν πόρους. Βλέποντας αυτό το είδος επαίνου για TurboQuant — όπως ονομάζεται ο νέος αλγόριθμος αποδοτικότητας της Google — είναι ενδιαφέρον. Αλλά υπάρχουν ακόμα δύο ερωτήματα που μένουν εδώ.

Γιατί πρέπει οι καταναλωτές να ενδιαφέρονται για αυτήν την πρόοδο και πώς ακριβώς αυτό θα επηρεάσει τις τιμές της μνήμης RAM μακροπρόθεσμα; Λοιπόν, για αρχή, θα μπορούσε να μειώσει τη ζήτηση για RAM σε κέντρα δεδομένων, κάτι που θα μπορούσε να βοηθήσει στη συνολική διαθεσιμότητα για τους καταναλωτές.

Μάλλον προσέξατε πώς είπαμε ότι μπορεί να επιστρέψουμε εκεί, και υπάρχει ένας πολύ σημαντικός λόγος για αυτό. Πρώτον, το TurboQuant δεν έχει τεθεί ακόμη σε ισχύ. Αυτή είναι τελικά απλώς έρευνα για την οποία η Google μοιράστηκε πληροφορίες. Ενώ η εταιρεία λέει ότι θα μπορούσε να βελτιώσει την απόδοση της χρήσης RAM AI, πιθανότατα δεν θα κάνει τη διαφορά για λίγο. Και ακόμη και όταν φτάσει στα κέντρα δεδομένων, ενδέχεται να μην μειώσει την απαιτούμενη ποσότητα μνήμης RAM.

Αυτό συμβαίνει επειδή η τρέχουσα τιμή της κρυφής μνήμης κλειδιού-τιμής – η οποία χρησιμοποιείται για την αποθήκευση του περιβάλλοντος μνήμης, ώστε το AI να μην χρειάζεται να υπολογίζει ξανά τα ίδια πράγματα ξανά και ξανά – είναι ένα σημαντικό εμπόδιο για την τεχνητή νοημοσύνη. Με αυξημένη απόδοση, μπορείτε να αποθηκεύσετε περισσότερα στην κρυφή μνήμη KV χωρίς να χρειάζεται να την αντικαταστήσετε. Ωστόσο, εάν συνεχίσετε να προσθέτετε περισσότερη μνήμη RAM στο σύστημα, τότε είναι δυνατή η εκπαίδευση νεότερων, πιο ισχυρών μοντέλων.

Ο ευκολότερος τρόπος για να το σκεφτείς είναι να φανταστείς ότι τα μοντέλα τεχνητής νοημοσύνης αποθηκεύουν όλο το πλαίσιο που απαιτείται για να συνεχιστούν οι συνομιλίες με τους χρήστες, όπως εικόνες σε ένα φάκελο. Αυτές οι εικόνες στη συνέχεια αποθηκεύονται στην κρυφή μνήμη KV. Ωστόσο, καθώς περισσότερες εικόνες γεμίζουν αυτόν τον χώρο, γίνεται πιο δύσκολο για το AI να αναλύσει τις πληροφορίες με αποτελεσματικό τρόπο. Ένας τρόπος για να μετριαστεί αυτό είναι να συνεχίσετε να προσθέτετε νέο χώρο στην κρυφή μνήμη – όπου παίζουν ρόλο οι επεκτάσεις RAM. Πώς λειτουργεί το TurboQuant, είναι βασικά ότι παίρνει αυτές τις εικόνες και τις συμπιέζει σε μικρότερα μεγέθη και τους δίνει πιο εύκολη κατηγοριοποίηση, ώστε να μπορεί να κρατήσει και να επεξεργαστεί περισσότερες. Υπάρχουν πολλά περισσότερα από αυτό, προφανώς, αλλά η βασική ιδέα θα πρέπει να είναι παρόμοια με βάση το πώς το εξηγεί η Google.

Τελικά, αυτό σημαίνει ότι η ζήτηση για RAM στα κέντρα δεδομένων που προκαλεί την άνοδο των τιμών μπορεί να μειωθεί ελαφρώς, γεγονός που θα μπορούσε να μειώσει τις τιμές. Ωστόσο, δεν υπάρχει καμία εγγύηση ότι αυτό θα συμβεί, ειδικά με τόσες πολλές εταιρείες που πιέζουν για τη δημιουργία νεότερων, ισχυρότερων μοντέλων και με όλες τις νέες δυνατότητες AI που κυκλοφορούν σε διάφορες πλατφόρμες.

Η Google, το OpenAI και πολλοί άλλοι αναπτύσσουν συνεχώς τα εργαλεία τεχνητής νοημοσύνης τους και λανσάρουν νέα και βελτιωμένα μοντέλα. Εξαιτίας αυτού, το μέγεθος της κρυφής μνήμης KV που απαιτείται για να συνεχίσει να λειτουργεί ομαλά για εκατοντάδες χιλιάδες ανθρώπους που θα μπορούσαν να χρησιμοποιήσουν την τεχνητή νοημοσύνη ακόμη και μία φορά την ημέρα θα συνεχίσει να αυξάνεται.

Ωστόσο, το να βλέπουμε τον νέο αλγόριθμο της Google να προσφέρει λίγη πιθανή ανακούφιση είναι ευπρόσδεκτο. Ας ελπίσουμε ότι, καθώς οι εταιρείες τεχνητής νοημοσύνης συνεχίζουν να καινοτομούν, θα δούμε άλλες αλλαγές και ενημερώσεις που καθιστούν τη μνήμη RAM λιγότερο προτεραιότητα για την τεχνητή νοημοσύνη. Προς το παρόν, ωστόσο, είναι δύσκολο να το δούμε αυτό ως οποιοδήποτε είδος μόνιμης λύσης στο πρόβλημα, ειδικά όταν η προσφορά και η ζήτηση είναι ήδη τόσο λοξές που βλέπουμε εκτεταμένες ελλείψεις.