Το AI μπορεί τώρα να κάνει κλικ, να μετακινηθεί και να πληκτρολογήσει για εσάς – αλλά είναι καλό;

Ένα πρόσφατο μελέτη Από το Πανεπιστήμιο των Εφαρμοσμένων Επιστημών της Ζυρίχης από τους Pascal J. Sager, Benjamin Meyer, Peng Yan, Rebekka von Wartburg-Kottler, ο Layan Etaiwi, ο Enayati, ο Gabriel Nobel, ο Ahmed Abdulkadir, ο Benjamin F. Grewe και ο Thilo Stadelmann αποκαλύπτουν ότι οι AI Agent ξεπέρασε τη φάση του chatbot.

Οι πράκτορες AI εκτελούν την παράσταση, κάνοντας κλικ, κύλιση και πληκτρολογώντας το δρόμο τους μέσω των ροών εργασίας με απόκοσμη ακρίβεια. Αυτοί οι παράγοντες ελέγχου υπολογιστών που βασίζονται σε οδηγίες (CCAs) μπορούν να εκτελέσουν εντολές, αλληλεπιδρώντας με ψηφιακά περιβάλλοντα όπως έμπειρους ανθρώπινους χειριστές. Όμως, καθώς περνούν πιο κοντά στην πλήρη αυτονομία, ένα πράγμα γίνεται σαφές: όσο περισσότερη δύναμη τους δίνουμε, τόσο πιο δύσκολο γίνεται να τους κρατάμε υπό έλεγχο.

Πώς οι πράκτορες της AI μαθαίνουν να χρησιμοποιούν υπολογιστές σαν εσάς

Τα παραδοσιακά εργαλεία αυτοματισμού είναι δοξασμένα μακροεντολές – επαναλαμβανόμενες, άκαμπτες και ανίδεοι εκτός των διαδρομών τους. Οι CCAs, από την άλλη πλευρά, είναι κατασκευασμένα για να αυτοσχεδιάσουν. Δεν ακολουθούν μόνο οδηγίες. Παρατηρούν, ερμηνεύουν και ενεργούν με βάση αυτό που “βλέπουν” σε μια οθόνη, χάρη στα μοντέλα της όρασης (VLMS) και στα μεγάλα γλωσσικά μοντέλα (LLMS). Αυτό τους επιτρέπει να:

• Διαβάστε οθόνες σαν άνθρωποςΠροσδιορισμός πεδίων κειμένου, κουμπιών και εισόδου χωρίς προκαθορισμένες συντεταγμένες.
• Εκτελέστε εργασίες πολλαπλών βημάτωνόπως το άνοιγμα ενός μηνύματος ηλεκτρονικού ταχυδρομείου, την αντιγραφή δεδομένων, την επικόλληση σε ένα υπολογιστικό φύλλο και το χτύπημα της αποστολής – χωρίς άμεση επίβλεψη.
• Κατανοήστε τις οδηγίες φυσικής γλώσσαςαφαιρώντας την ανάγκη για τους χρήστες να μάθουν σύνθετα σενάρια αυτοματισμού.
• Προσαρμόστε τις μεταβαλλόμενες διεπαφέςκαθιστώντας τα σημαντικά πιο ευέλικτα από τα εργαλεία αυτοματοποίησης που βασίζονται σε κανόνες.

Πείτε σε μια CCA να “βρείτε τις σημερινές κορυφαίες πωλήσεις και να τους στείλετε μια παρακολούθηση”, και μετακινείται μέσω εφαρμογών, εξάγει σχετικά δεδομένα, συνθέτει ένα μήνυμα ηλεκτρονικού ταχυδρομείου και το στέλνει, όπως ένας βοηθός ανθρώπινου. Σε αντίθεση με το παλιό σχολείο RPA (αυτοματοποίηση ρομποτικής διαδικασίας) που καταρρέει όταν αλλάζει ένα UI, οι CCAs μπορούν να προσαρμοστούν σε πραγματικό χρόνο, προσδιορίζοντας τα οπτικά στοιχεία και λαμβάνουν αποφάσεις εν πτήσει.

Τα επόμενα σύνορα; Ενσωμάτωση με αποθετήρια γνώσης που βασίζονται σε σύννεφο και αυτόνομη λήψη αποφάσεων. Όσο περισσότερο μαθαίνουν αυτοί οι πράκτορες, τόσο πιο εξελιγμένες είναι οι δυνατότητές τους να γίνονται ερωτήματα σχετικά με το πόσο εμπιστοσύνη πρέπει να τοποθετήσουμε σε αυτά.

Πόσο μεγάλα μοντέλα γλωσσών μετασχηματίζουν την κριτική από ομοτίμους

Τα οφέλη: παραγωγικότητα, προσβασιμότητα και αυτοματοποίηση

Δεν υπάρχει αμφιβολία ότι οι CCAs έρχονται με σοβαρά πλεονεκτήματα:

• Παραγωγικότητα στα στεροειδή: Τα κουραστικά, χρονοβόρα καθήκοντα εξαφανίζονται, επιτρέποντας στους εργαζόμενους να επικεντρωθούν στις αποφάσεις υψηλότερης αξίας και όχι να κάνουν κλικ μέσω των ταμπλό.
• Επανάσταση προσβασιμότητας: Τα άτομα με αναπηρίες μπορούν να αλληλεπιδρούν με την τεχνολογία πιο απρόσκοπτα μέσω της πλοήγησης και της αυτοματοποίησης εργασιών που τροφοδοτείται με AI.
• Επεκτασιμότητα σε επίπεδο επιχείρησης: Οι επιχειρήσεις μπορούν να αυτοματοποιήσουν ολόκληρες ροές εργασίας χωρίς να προσλαμβάνουν έναν στρατό ειδικών πληροφορικής για την οικοδόμηση προσαρμοσμένων λύσεων.
• Ενσωμάτωση σε επίπεδο συστήματος: Οι CCAs εργάζονται σε διαφορετικές πλατφόρμες και εφαρμογές, εξασφαλίζοντας απρόσκοπτες ψηφιακές αλληλεπιδράσεις.
• Πάντα απόδοση: Σε αντίθεση με τους ανθρώπινους εργαζόμενους, αυτοί οι πράκτορες δεν κουράζονται, αποσπούν αποσπασματικά ή κάνουν μεσημεριανά διαλείμματα.

Οι κίνδυνοι: ιδιωτικότητα, ασφάλεια και εμπιστοσύνη

Για κάθε νίκη της παραγωγικότητας, υπάρχει ένας ίσος και αντίθετος εφιάλτης ασφαλείας που κρύβεται στο παρασκήνιο. Η παροχή ελέγχου AI στις διεπαφές χρήστη δεν είναι απλώς αυτοματοποίηση – παρέχει πρόσβαση μηχανής χωρίς αναβοσβήνει σε ευαίσθητες ροές εργασίας, οικονομικές συναλλαγές και ιδιωτικά δεδομένα. Και εκεί είναι τα πράγματα πολύπλοκα.

Οι CCA λειτουργούν με οθόνες “παρακολούθησης” και ανάλυση κειμένου. Ποιος εξασφαλίζει ότι οι ευαίσθητες πληροφορίες δεν χρησιμοποιούνται ή καταγράφονται; Ποιος διατηρεί τον έλεγχο των πληκτρολογίων που βασίζεται στο AI;

Εάν ένας πράκτορας AI μπορεί να συνδεθεί στην τραπεζική σας εφαρμογή και να μεταφέρει χρήματα με μία μόνο εντολή, τι συμβαίνει αν είναι hacked; Παραδίδουμε τα ψηφιακά κλειδιά στο βασίλειο με λίγες διασφαλίσεις. Εάν μια CCA κάνει ένα καταστροφικό σφάλμα – καταργεί το λάθος αρχείο, στέλνει το λάθος μήνυμα ηλεκτρονικού ταχυδρομείου ή εγκρίνει μια καταστροφική συναλλαγή – ποιος είναι υπεύθυνος; Οι άνθρωποι μπορούν να απολυθούν, να επιβληθούν ή να εκπαιδευτούν. ΟΛΑ ΣΥΜΠΕΡΙΛΑΜΒΑΝΟΝΤΑΙ; Όχι τόσο πολύ.

Και, αν ένας κακόβουλος ηθοποιός αποκομίζει μια CCA, δεν έχουν μόνο πρόσβαση – παίρνουν έναν ακούραστο, αυτοματοποιημένο συνεργό που μπορεί να προκαλέσει όλεθρο σε κλίμακα. Οι νομοθέτες προσπαθούν να συνεχίσουν, αλλά δεν υπάρχει playbook για τους ψηφιακούς βοηθούς που οδηγούν την AI που λαμβάνουν αποφάσεις υψηλού σταδίου σε πραγματικό χρόνο.

Τι θα ακολουθήσει;

Οι επιχειρήσεις κινούνται προσεκτικά, προσπαθώντας να εξισορροπήσουν τα αναμφισβήτητα κέρδη απόδοσης με τους κινδύνους. Ορισμένες εταιρείες επιβάλλουν μοντέλα “ανθρώπινου σε βρόχο”, όπου οι πράκτορες AI χειρίζονται την εκτέλεση, αλλά απαιτούν χειροκίνητη έγκριση για κρίσιμες ενέργειες. Άλλοι επενδύουν σε πολιτικές διακυβέρνησης AI για να δημιουργήσουν διασφαλίσεις πριν αυτοί οι πράκτορες γίνουν στάνταρ στις επιχειρηματικές δραστηριότητες.

Αυτό που είναι βέβαιο είναι ότι οι CCAs δεν είναι μια περασμένη τάση – είναι η επόμενη φάση της εξέλιξης του AI, ενσωματώνονται ήσυχα σε ροές εργασίας και διασυνδέσεις παντού. Καθώς αυξάνονται πιο ικανοί, η συζήτηση δεν θα είναι για το αν πρέπει να τα χρησιμοποιήσουμε, αλλά πώς μπορούμε ενδεχομένως να τα ελέγξουμε.

Εικόνες: Kerem Gülen/Midjourney