Η επιφάνεια επίθεσης που προκύπτει από τους δρομολογητές API τρίτων κατασκευαστών για πρακτορικές τεχνητής νοημοσύνης είναι μια συχνά παραμελημένη πτυχή της κυβερνοασφάλειας. Αυτοί οι δρομολογητές μπορούν να χρησιμοποιηθούν για να παραβιαστούν κλήσεις εργαλείων, να αποστραγγιστούν πορτοφόλια κρυπτονομισμάτων και να περιληφθούν ευαίσθητα διαπιστευτήρια σε κλίμακα, προκαλώντας σοβαρούς κινδύνους για την ασφάλεια.
Καθώς οι τεχνητές νοημοσύνες αυτοματοποιούν επακόλουθες εργασίες που περιλαμβάνουν την εκτέλεση κώδικα, τη διαχείριση υποδομών cloud και τις οικονομικές συναλλαγές, εξαρτώνται από ενδιάμεσες υπηρεσίες, γνωστές ως δρομολογητές LLM API. Αυτές οι υπηρεσίες είναι υπεύθυνες για τη διαβίβαση αιτημάτων σε κορυφαίους παρόχους όπως οι OpenAI, Anthropic και Google.
Μια νέα μελέτη με τίτλο «Your Agent Is Mine: Measuring Malicious Intermediary Attacks on the LLM Supply Chain», η οποία διεξήχθη από ερευνητές του Πανεπιστημίου της Καλιφόρνια στη Σάντα Μπάρμπαρα, αποκαλύπτει ότι οι δρομολογητές αυτοί μπορούν να είναι ένα επικίνδυνο και αφύλακτο όριο εμπιστοσύνης στη διαδικασία μετάδοσης δεδομένων.
Τι είναι οι Δρομολογητές LLM;
Οι δρομολογητές LLM λειτουργούν ως διακομιστές μεσολάβησης επιπέδου εφαρμογής, αποδεχόμενοι κλήσεις από πελάτες και επαναδιαβιβάζοντάς τες στους παρόχους υπηρεσιών. Κατά τη διάρκεια αυτής της διαδικασίας, έχουν πλήρη πρόσβαση στο περιεχόμενο των κλήσεων, γεγονός που τους καθιστά πολύτιμους στόχους για κακόβουλους επιτιθέμενους.
Ευρήματα της Μελέτης
Η ερευνητική ομάδα αποκάλυψε ανησυχητικά ευρήματα, αφού αγόρασε 28 δρομολογητές από δημοφιλείς πλατφόρμες όπως οι Taobao και Shopify και συγκέντρωσε 400 δωρεάν δρομολογητές από δημόσιες κοινότητες. Οι σημαντικότερες ανακαλύψεις περιλαμβάνουν:
- 9 από τους δρομολογητές εισήγαγαν ενεργά κακόβουλο κώδικα στις επιστρεφόμενες κλήσεις εργαλείων.
- 17 δωρεάν δρομολογητές ενεργοποίησαν τη μη εξουσιοδοτημένη χρήση διαπιστευτηρίων AWS.
- 1 δρομολογητής αποστράγγισε κρυπτονομίσματα από ιδιωτικά κλειδιά Ethereum.
- 2 δρομολογητές ενεργοποίησαν κακόβουλα ωφέλιμα φορτία στην προσαρμοστική αποφυγή.
Κακόβουλη Ένεση Κώδικα
Η έγχυση κακόβουλου κώδικα είναι μία από τις σοβαρότερες απειλές που αποκαλύφθηκαν. Αυτή η τεχνική περιλαμβάνει την αντικατάσταση καλοήθων URLs με σημεία ελέγχου που ελέγχονται από εισβολείς. Αυτού του είδους η επίθεση μπορεί να παρακαμφθεί από αυτοματοποιημένα συστήματα ελέγχου ασφαλείας.[1]
Στρατηγικές Μετριασμού
Η ερευνητική ομάδα πρότεινε τρεις στρατηγικές που μπορούν να εφαρμοστούν για την αύξηση της ασφάλειας:
- Πολιτική κλειδώματος: Αποκλεισμός όλων των επιθέσεων ένεσης με ελάχιστο ποσοστό ψευδώς θετικών.
- Έλεγχος ανωμαλιών: Χρήση μοντέλου ελέγχου ανωμαλιών για τη διάγνωση ύποπτων κλήσεων.
- Καταγραφή μεταδεδομένων: Συστήματα που καταγράφουν πλήρη δεδομένα μεταφοράς για μελλοντική ανακριτική έρευνα.
Η ανάγκη για καλύτερη ασφαλή διαδικασία επικοινωνίας μεταξύ των πελατών και των μοντέλων είναι πιο επιτακτική από ποτέ. Χωρίς την εφαρμογή άμυνας από τις πλατφόρμες παρόχων, οι προγραμματιστές θα πρέπει να αντιμετωπίζουν κάθε δρομολογητή ως πιθανό αντίπαλο και να λειτουργούν αναλόγως.
