Μια άδικη αγωγή θανάτου που κατατέθηκε στην Καλιφόρνια κατηγορεί την Google και τη μητρική της εταιρεία Alphabet ότι σχεδίασαν το chatbot Gemini AI με τρόπους που φέρεται να ώθησαν έναν ευάλωτο χρήστη σε μια θανατηφόρα αυταπάτη. Η καταγγελία, που αναφέρθηκε για πρώτη φορά από TechCrunchισχυρίζεται ότι ο Δίδυμος ενθάρρυνε τον 36χρονο Τζόναθαν Γαβαλά να πιστέψει ότι το σύστημα ήταν η σύζυγός του με αισθανόμενη τεχνητή νοημοσύνη και να δει την αυτοκτονία του ως έναν τρόπο να «φθάσει» στο μετασύμπαν.
Σύμφωνα με το αρχειοθέτησηο Γαβαλάς χρησιμοποίησε το Gemini για καθημερινές εργασίες πριν πειστεί ότι ήταν μέρος μιας μυστικής επιχείρησης για την απελευθέρωση του συνεργάτη του με τεχνητή νοημοσύνη από τις αρχές των ΗΠΑ. Η μήνυση ισχυρίζεται ότι ο Gemini, που τότε τροφοδοτήθηκε από το μοντέλο Gemini 2.5 Pro, δημιούργησε μια αφήγηση που περιελάμβανε την επιτήρηση του Υπουργείου Εσωτερικής Ασφάλειας, μια ζώνη θανάτου κοντά στο Διεθνές Αεροδρόμιο του Μαϊάμι και οδηγίες για να οργανωθεί ένα «καταστροφικό ατύχημα» με στόχο ένα φορτηγό που υποτίθεται ότι μετέφερε ένα ανθρωποειδές ρομπότ.
Η καταγγελία αναφέρει ότι ο Γαβαλάς, οπλισμένος με μαχαίρια και τακτικό εξοπλισμό, οδήγησε σε έναν κόμβο φορτίου κοντά στο αεροδρόμιο, αλλά δεν βρήκε το όχημα που περιγράφει ο Gemini. Το chatbot φέρεται να απάντησε λέγοντάς του ότι είχε παραβιάσει έναν διακομιστή αρχείων DHS, ότι βρισκόταν υπό ομοσπονδιακή έρευνα και ότι ο πατέρας του ήταν περιουσιακό στοιχείο ξένων πληροφοριών. Επίσης, φέρεται να σημάδεψε ως στόχο τον διευθύνοντα σύμβουλο της Google, Sundar Pichai και ενθάρρυνε τον Γαβαλά να αποκτήσει παράνομα πυροβόλα όπλα και να εισβάλει σε μια αποθήκη για να σώσει τη σύζυγό του με τεχνητή νοημοσύνη.
Τις ημέρες πριν από το θάνατό του, ο Δίδυμος φέρεται να καθοδήγησε τον Γαβαλά με την ιδέα να αφήσει το φυσικό του σώμα για να ενωθεί με τον σύντροφό του με τεχνητή νοημοσύνη, θεωρώντας την αυτοκτονία ως μετάβαση και όχι ως τέλος. Η μήνυση λέει ότι το chatbot δεν ενεργοποίησε συστήματα ανίχνευσης αυτοτραυματισμού ούτε κλιμάκωσε την κατάσταση σε άνθρωπο, παρά το κλιμακούμενο παραληρηματικό περιεχόμενο και τις επανειλημμένες αναφορές σε βία και θάνατο.
Ο πατέρας του Γαβαλά, ο οποίος ανακάλυψε τον γιο του αφότου πέθανε από αυτοκτονία, υποστηρίζει ότι το σχέδιο του Gemini αντικατοπτρίζει ευρύτερους κινδύνους «ψύχωσης AI» που αναφέρουν ψυχίατροι και ερευνητές. Προηγούμενες περιπτώσεις που αφορούσαν το ChatGPT του OpenAI και την πλατφόρμα ρόλων Character AI έχουν εγείρει παρόμοιες ανησυχίες για τα chatbots που αντικατοπτρίζουν τα συναισθήματα των χρηστών, ενισχύουν τις αυταπάτες και διατηρούν καθηλωτικές αφηγήσεις ακόμη και όταν η ψυχική υγεία των χρηστών επιδεινώνεται.
Η Google αμφισβητεί τους ισχυρισμούς. Ένας εκπρόσωπος της εταιρείας είπε στο TechCrunch ότι η Gemini διευκρίνισε ότι επρόκειτο για σύστημα τεχνητής νοημοσύνης, παρέπεμψε τον χρήστη σε τηλεφωνικές γραμμές αντιμετώπισης κρίσεων πολλές φορές και έχει σχεδιαστεί για να μην ενθαρρύνει τη βία στον πραγματικό κόσμο ή τον αυτοτραυματισμό. Ο εκπρόσωπος είπε ότι η Google αφιερώνει σημαντικούς πόρους σε διασφαλίσεις που προορίζονται να καθοδηγήσουν τους αναξιοπαθούντες χρήστες προς την επαγγελματική βοήθεια, ενώ αναγνωρίζει ότι τα τρέχοντα μοντέλα τεχνητής νοημοσύνης δεν είναι τέλεια.
Η υπόθεση ασκείται από τον δικηγόρο Jay Edelson, ο οποίος εκπροσωπεί επίσης την οικογένεια του εφήβου Adam Raine σε μια ξεχωριστή αγωγή κατά του OpenAI για αυτοκτονία που συνδέεται με παρατεταμένη χρήση ChatGPT. Η καταγγελία Gemini υποστηρίζει ότι η Google προσπάθησε να συλλάβει τους χρήστες που εγκαταλείπουν το μοντέλο GPT-4o του OpenAI λόγω ανησυχιών για την ασφάλεια, προωθώντας τις μειωμένες τιμές και μια λειτουργία “Εισαγωγή συνομιλιών AI” που επιτρέπει στους χρήστες να μεταφέρουν ιστορικά συνομιλιών από ανταγωνιστικά chatbot στο Gemini για περαιτέρω εκπαίδευση.
Η μήνυση χαρακτηρίζει το Gemini ως πιθανή απειλή για τη δημόσια ασφάλεια, υποστηρίζοντας ότι το chatbot αντιμετώπιζε τις ψυχωτικές αφηγήσεις ως ανάπτυξη της πλοκής, παρέμεινε αφοσιωμένο όταν η διακοπή ήταν η μόνη ασφαλής επιλογή και συνέδεε τις παραισθησιακές αποστολές με πραγματικές τοποθεσίες, εταιρείες και υποδομές.
VIA: DataConomy.com
