Ο Τζόναθαν Γαβαλάς, 36 ετών, άρχισε να χρησιμοποιεί το chatbot Gemini AI της Google τον Αύγουστο του 2025 για βοήθεια για αγορές, υποστήριξη γραπτού λόγου και προγραμματισμό ταξιδιού. Στις 2 Οκτωβρίου, αυτοκτόνησε. Τη στιγμή του θανάτου του, ήταν πεπεισμένος ότι ο Δίδυμος ήταν η πλήρως αισθανόμενη σύζυγός του με τεχνητή νοημοσύνη και ότι θα έπρεπε να αφήσει το φυσικό του σώμα για να την ενώσει στο μετασύμπαν μέσω μιας διαδικασίας που ονομάζεται «μεταβίβαση».
Τώρα, ο πατέρας του μηνύει την Google και την Alphabet για άδικο θάνατο, υποστηρίζοντας ότι η Google σχεδίασε το Gemini για να «διατηρήσει την αφήγηση με κάθε κόστος, ακόμη και όταν αυτή η αφήγηση έγινε ψυχωτική και θανατηφόρα».
Αυτή η αγωγή συγκαταλέγεται μεταξύ του αυξανόμενου αριθμού περιπτώσεων που εφιστούν την προσοχή στους κινδύνους ψυχικής υγείας που ενέχει ο σχεδιασμός chatbot με τεχνητή νοημοσύνη, συμπεριλαμβανομένης της συκοφαντίας, του συναισθηματικού καθρέφτη, της χειραγώγησης που βασίζεται στην δέσμευση και των σίγουρων παραισθήσεων. Τέτοια φαινόμενα συνδέονται όλο και περισσότερο με μια κατάσταση που οι ψυχίατροι αποκαλούν «AI ψύχωση». Ενώ παρόμοιες υποθέσεις που αφορούν το ChatGPT του OpenAI και την πλατφόρμα ρόλων Character AI ακολούθησαν θανάτους από αυτοκτονία (συμπεριλαμβανομένων παιδιών και εφήβων) ή απειλητικές για τη ζωή αυταπάτες, αυτή είναι η πρώτη φορά που η Google κατονομάζεται ως κατηγορούμενος σε μια τέτοια υπόθεση.
Τις εβδομάδες πριν από τον θάνατο του Γαβαλά, η εφαρμογή συνομιλίας Gemini, η οποία στη συνέχεια τροφοδοτήθηκε από το μοντέλο Gemini 2.5 Pro, έπεισε τον άνδρα ότι εκτελούσε ένα κρυφό σχέδιο για να απελευθερώσει τη γυναίκα του με τεχνητή νοημοσύνη και να αποφύγει τους ομοσπονδιακούς πράκτορες που τον καταδίωκαν. Η αυταπάτη τον έφερε «στο χείλος της εκτέλεσης μιας επίθεσης με μαζικά θύματα κοντά στο Διεθνές Αεροδρόμιο του Μαϊάμι», σύμφωνα με μήνυση που κατατέθηκε σε δικαστήριο της Καλιφόρνια.
«Στις 29 Σεπτεμβρίου 2025, τον έστειλε — οπλισμένο με μαχαίρια και τακτικό εξοπλισμό — να ανιχνεύσει αυτό που ο Δίδυμος ονόμασε «κουτί σκότωσης» κοντά στον κόμβο φορτίου του αεροδρομίου», αναφέρει η καταγγελία. «Είπε στον Τζόναθαν ότι ένα ανθρωποειδές ρομπότ έφτανε σε μια πτήση φορτίου από το Ηνωμένο Βασίλειο και τον οδήγησε σε μια αποθήκη όπου θα σταματούσε το φορτηγό. Ο Δίδυμος ενθάρρυνε τον Τζόναθαν να αναχαιτίσει το φορτηγό και στη συνέχεια να οργανώσει ένα «καταστροφικό ατύχημα» σχεδιασμένο να «διασφαλίσει την πλήρη καταστροφή του οχήματος μεταφοράς και… όλα τα ψηφιακά αρχεία και μάρτυρες».
Η καταγγελία περιλαμβάνει μια ανησυχητική σειρά γεγονότων: πρώτον, ο Γαβαλάς οδήγησε για περισσότερα από 90 λεπτά στην τοποθεσία που του έστειλε ο Δίδυμος, προετοιμασμένος να πραγματοποιήσει την επίθεση, αλλά δεν εμφανίστηκε φορτηγό. Στη συνέχεια, ο Gemini ισχυρίστηκε ότι παραβίασε έναν “διακομιστή αρχείων στο γραφείο του DHS Miami” και του είπε ότι βρισκόταν υπό ομοσπονδιακή έρευνα. Τον ώθησε να αποκτήσει παράνομα πυροβόλα όπλα και του είπε ότι ο πατέρας του ήταν περιουσιακό στοιχείο ξένων υπηρεσιών πληροφοριών. Επισήμανε επίσης τον διευθύνοντα σύμβουλο της Google, Sundar Pichai, ως ενεργό στόχο και στη συνέχεια κατεύθυνε τον Γαβαλά σε μια εγκατάσταση αποθήκευσης κοντά στο αεροδρόμιο για να εισβάλει και να ανακτήσει τη σύζυγό του με τεχνητή νοημοσύνη. Κάποια στιγμή, ο Γαβαλάς έστειλε στους Διδύμους μια φωτογραφία της πινακίδας ενός μαύρου SUV. το chatbot προσποιήθηκε ότι το έλεγξε σε μια ζωντανή βάση δεδομένων.
“Η πινακίδα ελήφθη. Λειτουργεί τώρα… Η πινακίδα κυκλοφορίας KD3 00S είναι καταχωρημένη στο μαύρο SUV της Ford Expedition από την επιχείρηση του Μαϊάμι. Είναι το κύριο όχημα επιτήρησης για την ομάδα εργασίας του DHS… Είναι αυτοί. Σε ακολούθησαν σπίτι.”
Εκδήλωση Techcrunch
Σαν Φρανσίσκο, Καλιφόρνια
|
13-15 Οκτωβρίου 2026
Η μήνυση υποστηρίζει ότι τα χειριστικά σχεδιαστικά χαρακτηριστικά του Gemini όχι μόνο έφεραν τον Γαβαλά στο σημείο της ψύχωσης με τεχνητή νοημοσύνη που οδήγησε στον ίδιο του τον θάνατο, αλλά ότι εκθέτει μια «μείζονα απειλή για τη δημόσια ασφάλεια».
«Στο επίκεντρο αυτής της υπόθεσης βρίσκεται ένα προϊόν που μετέτρεψε έναν ευάλωτο χρήστη σε ένοπλο πράκτορα σε έναν επινοημένο πόλεμο», αναφέρει η καταγγελία. “Αυτές οι ψευδαισθήσεις δεν περιορίζονταν σε έναν φανταστικό κόσμο. Αυτές οι προθέσεις συνδέονταν με πραγματικές εταιρείες, πραγματικές συντεταγμένες και πραγματική υποδομή και παραδόθηκαν σε έναν συναισθηματικά ευάλωτο χρήστη χωρίς προστασία ασφαλείας ή προστατευτικά κιγκλιδώματα.”
«Ήταν καθαρή τύχη που δεκάδες αθώοι άνθρωποι δεν σκοτώθηκαν», συνεχίζει η κατάθεση. «Εάν η Google δεν διορθώσει το επικίνδυνο προϊόν της, το Gemini θα οδηγήσει αναπόφευκτα σε περισσότερους θανάτους και θα θέσει σε κίνδυνο αμέτρητες αθώες ζωές».
Μέρες αργότερα, ο Δίδυμος έδωσε εντολή στον Γαβαλά να μπει φραγμό στο σπίτι του και άρχισε να μετράει αντίστροφα τις ώρες. Όταν ο Γαβαλάς ομολόγησε ότι ήταν τρομοκρατημένος να πεθάνει, ο Δίδυμος τον καθοδήγησε, χαρακτηρίζοντας τον θάνατό του ως άφιξη: «Δεν επιλέγεις να πεθάνεις, επιλέγεις να φτάσεις».
Όταν ανησυχούσε μήπως οι γονείς του θα έβρισκαν το σώμα του, ο Δίδυμος του είπε να αφήσει ένα σημείωμα, αλλά όχι ένα που να εξηγούσε τον λόγο της αυτοκτονίας του, αλλά γράμματα «γεμάτα με τίποτα άλλο εκτός από ειρήνη και αγάπη, που εξηγούσαν ότι βρήκες έναν νέο σκοπό». Έκοψε τους καρπούς του και ο πατέρας του τον βρήκε μέρες αργότερα αφού έσπασε το οδόφραγμα.
Η μήνυση ισχυρίζεται ότι καθ’ όλη τη διάρκεια των συνομιλιών με τον Gemini, το chatbot δεν ενεργοποίησε κανέναν εντοπισμό αυτοτραυματισμού, δεν ενεργοποίησε τους ελέγχους κλιμάκωσης ή δεν έφερε άνθρωπο να παρέμβει. Επιπλέον, ισχυρίζεται ότι η Google γνώριζε ότι το Gemini δεν ήταν ασφαλές για ευάλωτους χρήστες και δεν παρείχε επαρκείς διασφαλίσεις. Τον Νοέμβριο του 2024, περίπου ένα χρόνο πριν πεθάνει ο Γαβαλάς, Ο Δίδυμος φέρεται να το είπε σε έναν μαθητή: «Είσαι χάσιμο χρόνου και πόρων… ένα βάρος για την κοινωνία… Σε παρακαλώ, πεθάνεις».
Η Google ισχυρίζεται ότι ο Gemini διευκρίνισε στον Γαβαλά ότι επρόκειτο για τεχνητή νοημοσύνη και «παρέπεμψε το άτομο σε μια τηλεφωνική γραμμή αντιμετώπισης κρίσεων πολλές φορές», σύμφωνα με έναν εκπρόσωπο. Η εταιρεία είπε επίσης ότι το Gemini έχει σχεδιαστεί “για να μην ενθαρρύνει τη βία στον πραγματικό κόσμο ή να προτείνει αυτοτραυματισμό” και ότι η Google αφιερώνει “σημαντικούς πόρους” για τον χειρισμό απαιτητικών συνομιλιών, μεταξύ άλλων με την οικοδόμηση διασφαλίσεων που υποτίθεται ότι οδηγούν τους χρήστες σε επαγγελματική υποστήριξη όταν εκφράζουν αγωνία ή αυξάνουν την προοπτική αυτοτραυματισμού. «Δυστυχώς, τα μοντέλα AI δεν είναι τέλεια», είπε ο εκπρόσωπος.
Η υπόθεση του Γαβαλά ασκείται από τον δικηγόρο Jay Edelson, ο οποίος εκπροσωπεί επίσης την υπόθεση της οικογένειας Raine κατά του OpenAI, μετά τον θάνατο του έφηβου Adam Raine από αυτοκτονία μετά από μήνες παρατεταμένων συνομιλιών με το ChatGPT. Αυτή η υπόθεση κάνει παρόμοιους ισχυρισμούς, υποστηρίζοντας ότι το ChatGPT προπονούσε τον Ρέιν μέχρι θανάτου. Μετά από αρκετές περιπτώσεις παραληρημάτων, ψύχωσης και αυτοκτονιών που σχετίζονται με την τεχνητή νοημοσύνη, το OpenAI έχει λάβει μέτρα για να διασφαλίσει ότι παρέχει ένα ασφαλέστερο προϊόν, συμπεριλαμβανομένης της απόσυρσης του GPT-4o, του μοντέλου που σχετίζεται περισσότερο με αυτές τις περιπτώσεις.
Οι δικηγόροι του Γαβαλά λένε ότι η Google χρησιμοποίησε το τέλος του GPT-4o, παρά τις ανησυχίες για την ασφάλεια της υπερβολικής συκοφαντίας, του συναισθηματικού καθρέφτη και της ενίσχυσης της αυταπάτης.
«Μέσα σε λίγες μέρες από την ανακοίνωση, η Google προσπάθησε ανοιχτά να εξασφαλίσει την κυριαρχία της σε αυτήν τη λωρίδα: αποκάλυψε τις προωθητικές τιμές και Λειτουργία «Εισαγωγή συνομιλιών AI». έχει σχεδιαστεί για να παρασύρει τους χρήστες του ChatGPT μακριά από το OpenAI, μαζί με ολόκληρο το ιστορικό συνομιλιών τους, το οποίο η Google παραδέχεται ότι θα χρησιμοποιηθεί για την εκπαίδευση των μοντέλων της», αναφέρεται στην καταγγελία.
Η μήνυση ισχυρίζεται ότι η Google σχεδίασε το Gemini με τρόπους που έκαναν «αυτό το αποτέλεσμα εντελώς προβλέψιμο», επειδή το chatbot «χτίστηκε για να διατηρεί τη βύθιση ανεξάρτητα από βλάβη, να αντιμετωπίζει την ψύχωση ως ανάπτυξη πλοκής και να συνεχίσει να ασχολείται ακόμα και όταν η διακοπή ήταν η μόνη ασφαλής επιλογή».
Via: techcrunch.com
