Το φαινόμενο αυτό περιγράφηκε από ερευνητές ως «γνωστική παράδοση» (cognitive surrender), μια κατάσταση στην οποία η ανθρώπινη λογική και κρίση υποχωρούν μπροστά στην ψευδώς αυθεντία που προσφέρουν τα «ρευστά» και «σίγουρα» αποτελέσματα των εργαλείων AI. Οι ερευνητές επισημαίνουν ότι η εν λόγω παραχώρηση σε λογικές αλγορίθμων μπορεί να προκαλέσει σοβαρές συνέπειες στη διαδικασία της σκέψης.
Η μελέτη με τίτλο «Thinking, Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender» στοχεύει στην εξέταση αυτού του φαινομένου μέσω της ανάλυσης δύο βασικών συστημάτων λήψης αποφάσεων. Το System 1 αφορά τη γρήγορη, διαισθητική και συναισθηματική σκέψη, ενώ το System 2 περιγράφει τις πιο σκόπιμες και αναλυτικές διαδικασίες σκέψης. Ωστόσο, η είσοδος των AI φαίνεται να εισάγει μια τρίτη διάσταση, την «τεχνητή γνώση» (artificial cognition), η οποία προσφέρει δεδομενοκεντρικές απαντήσεις, μειώνοντας τη συμμετοχή και την κρίση του ανθρώπου.
Η Απόσταση Ανθρώπου και AI
Σε αντίθεση με τη γνωστή συμπεριφορά «γνωστικής αποφόρτισης» που παρατηρείται με τη χρήση εργαλείων όπως αριθμομηχανές και GPS, η «γνωστική παράδοση» αναφέρεται στην αποδοχή των προτάσεων του AI με ελάχιστη αμφισβήτηση. Υπάρχουν παραδείγματα όπου οι χρήστες αποδέχονται τις προτάσεις των LLM (Large Language Models) χωρίς να σκέφτονται ενεργά.
Πειραματική Μεθοδολογία
Για τη μέτρηση του φαινομένου, οι ερευνητές διεξήγαγαν πειράματα που περιλάμβαναν τις Cognitive Reflection Tests (CRT), οι οποίες είναι σχεδιασμένες να οδηγούν σε λανθασμένες διαισθητικές απαντήσεις. Στους συμμετέχοντες δόθηκε πρόσβαση σε ένα chatbot LLM, το οποίο απαντούσε τυχαία λανθασμένα περίπου στο 50% των ερωτήσεων.
- Αποτελέσματα: Στην ομάδα που είχε πρόσβαση στο AI, οι συμμετέχοντες προτίμησαν να συμβουλεύονται το AI για περίπου το 50% των ερωτήσεων.
- Όταν το AI παρείχε τη σωστή απάντηση, η αποδοχή της επεξεργασίας του άγγιξε το 93%.
- Ακόμη και όταν το AI ήταν ελαττωματικό, το ποσοστό αποδοχής παρέμεινε στο 80%.
Σαφήνεια και Αυτοπεποίθηση
Η ίδια ομάδα, κατά την εξέταση του ακριβούς AI, απέφερε καλύτερα αποτελέσματα από την ομάδα ελέγχου, αλλά εμφάνισε πολύ χειρότερα αποτελέσματα υπό τις συνθήκες ελαττωματικού AI. Μάλιστα, η αυτοπεποίθηση των συμμετεχόντων ήταν 11,7% υψηλότερη, παρ’ ότι το AI έκανε λάθος 50% των φορών.
Προθεσμίες και Ανάδραση
Σε δεύτερη μελέτη, προσφέροντας μικρές χρηματικές αμοιβές και άμεση ανατροφοδότηση, οι ερευνητές παρατήρησαν αύξηση κατά 19 ποσοστιαίες μονάδες στην πιθανότητα διόρθωσης λανθαστικών απαντήσεων από το AI. Αντίθετα, όταν οι συμμετέχοντες αντιμετώπιζαν χρονική πίεση, η πιθανότητα διόρθωσης μειώθηκε κατά 12 μονάδες.
Συμπεράσματα για τη Γνωστική Παράδοση
Συνολικά, σε 1.372 συμμετέχοντες και πάνω από 9.500 δοκιμές, φάνηκε ότι οι συμμετέχοντες αποδέχονταν λανθασμένη συλλογιστική του AI στο 73,2% των περιπτώσεων και μόνο το 19,7% κατάφεραν να την υπερβούν. Οι ερευνητές παρατήρησαν ότι εκείνοι με υψηλότερο «Fluid IQ» ήταν λιγότερο υπό την επιρροή του AI, ενώ όσοι εμπιστεύονταν περισσότερο την αυθεντία του AI παρουσίασαν μεγαλύτερη σύγχυση.
Αν και η γνωστική παράδοση δεν είναι κατ’ ανάγκη αρνητική (καθώς τα AI μπορεί να υπερβαίνουν ανθρώπινες επιδόσεις σε τομείς όπως η αξιολόγηση κινδύνου), είναι κρίσιμο να αναγνωρίσουμε την πιθανή ευαλωτότητα: η αξιοπιστία του AI καθορίζει την απόδοση και την ποιότητα της λήψης αποφάσεων.
Το κλειδί είναι η υγιής ισορροπία ανάμεσα στην αποδοχή και στη σκέψη. Τα εργαλεία AI θα πρέπει να χρησιμοποιούνται ως συμπλήρωμα και όχι ως υποκατάστατο της ανθρώπινης κρίσης.
