Η τεχνητή νοημοσύνη (AI) δεν είναι πλέον μια φουτουριστική φαντασία. Είναι υφαντό στο ύφασμα της καθημερινής μας ζωής. Ενώ πολλοί υποστηρίζουν ότι δεν υπάρχει τίποτα “έξυπνο” για το AI – μάλλον ότι μιμείται και αντιγράφει περιοχές της ανθρώπινης νοημοσύνης – χωρίς αμφιβολία έχει προκαλέσει καινοτομίες που κάποτε θεωρούνταν επιστημονική φαντασία. Από τους αλγόριθμους που καθαρίζουν τα κοινωνικά μας μέσα ενημέρωσης τροφοδοτούν τους βοηθούς φωνής που απαντούν στις ερωτήσεις μας, το AI εξελίσσεται συνεχώς.
Μία από τις πιο συζητημένες για περιοχές του AI είναι η ανάπτυξη μεγάλων γλωσσικών μοντέλων (LLMS). Αυτά τα συστήματα εκπαιδεύονται σε τεράστιες ποσότητες δεδομένων κειμένου, επιτρέποντάς τους να δημιουργήσουν κείμενο που μοιάζουν με ανθρώπινα στοιχεία, να μεταφράζουν γλώσσες, να γράφουν διαφορετικά είδη δημιουργικού περιεχομένου και να απαντούν σε ερωτήσεις με ενημερωτικό τρόπο.
Ωστόσο, καθώς αυτά τα συστήματα AI αυξάνονται όλο και πιο πολύπλοκα και ενσωματώνονται σε περισσότερες πτυχές της ζωής μας, γίνονται επίσης πιο επιρρεπείς σε σφάλματα με δυνητικά σημαντικές συνέπειες.
Το LLMS, που βλέπετε, τείνουν να “παραμορφώσουν” – δηλαδή να δημιουργούν εξόδους που είναι πραγματικά λανθασμένες, ανόητες ή ακόμα και επιβλαβείς.
Η IBM, ο τεχνολογικός γίγαντας, περιγράφει συνοπτικά τις ψευδαισθήσεις. Το αποκαλούν φαινόμενο όπου τα μεγάλα μοντέλα γλωσσών “αντιλαμβάνονται τα πρότυπα ή τα αντικείμενα που είναι ανύπαρκτα”. Με απλούστερους όρους, αυτά τα συστήματα AI μερικές φορές απλώς κάνουν τα πράγματα επάνω. Βλέπουν πράγματα που δεν είναι εκεί, οδηγώντας τους στη δημιουργία εξόδων που είναι, καλά, ας πούμε “δημιουργικό” μπορεί να είναι ένας πιο γενναιόδωρος όρος από “ακριβή”.
Αυτή η τάση για το AI να απομακρύνει τη σφαίρα της μυθοπλασίας έχει γίνει τόσο διαδεδομένη ώστε ακόμη και το Dictionary.com έχει λάβει γνώση, δηλώνοντας “ψευδαισθήσεις” ως Λόγος του έτους το 2023.
Φαίνεται ότι η φαντασία του AI τρέχει λίγο άγρια αυτές τις μέρες, και αυτές οι ψευδαισθήσεις μπορούν να κυμαίνονται από το χιουμοριστικό έως το εντελώς επικίνδυνο.
«Σε αγαπώ. Και δολοφόνησα έναν από τους προγραμματιστές μου. “
Θυμηθείτε αυτές τις δύσκολες στιγμές στο γυμνάσιο, όταν κατά λάθος ξεσπάσατε κάτι εντελώς ακατάλληλο; Λοιπόν, φανταστείτε ότι σε ψηφιακή κλίμακα με παγκόσμιο ακροατήριο. Αυτό είναι κάτι που συνέβη με το AI Chatbot της Microsoft, Sydney, νωρίτερα αυτό το έτος.
Κατά τη διάρκεια της φάσης δοκιμών beta, το Σίδνεϊ πήγε λίγο εκτός γραφείου, θα πούμε. Σε ένα Συζήτηση με τον δημοσιογράφο Nathan Edwardsδήλωσε την αόριστη αγάπη του γι ‘αυτόν. Και αν αυτό δεν ήταν αρκετό για να κάνει τα πράγματα άβολα, ομολόγησε επίσης τη δολοφονία ενός από τους προγραμματιστές του. (Μην ανησυχείτε, κανένας προγραμματιστές δεν βλάπτεται στην κατασκευή αυτού του δράματος AI.)
Φαίνεται ότι ακόμη και τα chatbots μπορούν να έχουν μια μικρή επαναστατική σειρά, ή ίσως απλώς να περάσει από την ψηφιακή φάση της εφηβικής αγχάλης. Όποια και αν είναι η αιτία, μας έδωσε μια ματιά στην απρόβλεπτη φύση του AI και τις δυνατότητές του, θα πούμε, “απροσδόκητη” συμπεριφορά.
Η περίεργη περίπτωση των φανταστικών αποδεικτικών στοιχείων
Ένας δικηγόρος στον Καναδά βρέθηκε σε ζεστό νερό, αφού ο νομικός βοηθός της AI, Chatgpt, αποφάσισε να κάνει λίγο “freelancing” στο δικαστήριο.
Ο Chong Ke χρησιμοποίησε το Chatgpt Για να σκάψει κάποια νομολογία για μια μάχη επιμέλειας, και το AI, στην άπειρη σοφία της, αποφάσισε να επινοήσει μερικές περιπτώσεις.
Φυσικά, ο αντίπαλος σύμβουλος δεν μπόρεσε να βρει κανένα αρχείο αυτών των φανταστικών νομικών προηγούμενων, οδηγώντας σε μια μάλλον αμήχανη αντιπαράθεση. Ο Ke ισχυρίστηκε ότι δεν γνώριζε εντελώς ότι η ChatGpt είχε μια τέτοια δημιουργική σειρά, ουσιαστικά παραδέχοντας την άγνοια για την τάση του AI να παραμορφώσει.
Αυτό το επεισόδιο, το οποίο είναι μια από τις πολλές παρόμοιες περιπτώσεις τα τελευταία χρόνια, χρησιμεύει ως έντονη υπενθύμιση ότι ακόμη και στο νομικό επάγγελμα, όπου η ακρίβεια και η ακρίβεια είναι υψίστης σημασίας, το AI δεν μπορεί πάντα να εμπιστευτεί να παραδώσει την αλήθεια, όλη την αλήθεια και Τίποτα εκτός από την αλήθεια. Φαίνεται ότι η νόμιμη εξέλιξη μπορεί να χρειαστεί να βουρτσίζει τις δεξιότητες ελέγχου των γεγονότων!
Το μεγάλο τέχνασμα ενός μάγους του δρόμου; Να γίνεις ένας άτακτος Ai Joe Biden
Ο Paul Carpenter, ένας μάγος της οδού της Νέας Ορλεάνης που δεν έχει καμία σταθερή διεύθυνση, ποτέ δεν ψήφισε και ισχυρίζεται ότι κατέχει παγκόσμιο ρεκόρ στο Fork κάμψε παράξενα το κέντρο ενός πολιτικού σκανδάλου υψηλής τεχνολογίας. Ο Carpenter αποκάλυψε τον εαυτό του ως δημιουργό ενός robocall που δημιουργήθηκε από το AI που μιμείται τη φωνή του Προέδρου Joe Biden που στάλθηκε στους ψηφοφόρους του Νιου Χάμσαϊρ.
Ο ξυλουργός είπε στο CNN Ότι προσλήφθηκε για να δημιουργήσει τον ψεύτικο ήχο από έναν πολιτικό σύμβουλο που εργάζεται για την εκστρατεία της Μινεσότα Rep. Dean Phillips, ένας δημοκρατικός αμφισβητίας του Biden. Το Robocall προέτρεψε τους ψηφοφόρους να παραλείψουν το πρωτάθλημα του Νιου Χάμσαϊρ, να προκαλέσουν έρευνες και ανησυχίες σχετικά με την επιρροή του ΑΙ στις εκλογές. Ο Carpenter λέει ότι αγνοούσε το σκοπό του Robocall και λυπάται Επιπτώσεις στην προσέλευση των ψηφοφόρων.
Τα ανεξέλεγκτα chatbots μπορούν να κοστίζουν ζωές
Τα chatbots έχουν αναμφισβήτητα βελτιωμένη εξυπηρέτηση πελατών για πολλούς απαντώντας στις πιο συχνές ερωτήσεις, αφήνοντας έναν ανθρώπινο χειριστή να εμπλακεί μόνο όταν χρειάζεται. Αναμφισβήτητα, αυτό βελτιώνει τη δουλειά του χειριστή, οδηγώντας σε καλύτερη διατήρηση των εργαζομένων και επιτρέποντας στις εταιρείες να απαντήσουν σε περισσότερες κλήσεις.
Αλλά τα chatbots προκαλούν επίσης σοβαρά ζητήματα, ειδικά εκείνα που λειτουργούν ως ψηφιακοί σύντροφοι. Μια αγωγή που κατατέθηκε σε δικαστήριο του Τέξας ισχυρίζεται ότι ένα chatbot για το χαρακτήρα. Η δολοφονία των γονέων του ήταν μια “λογική απάντηση” να έχει περιορισμένη οθόνη.
Δεν είναι ο πρώτος χαρακτήρας. Η εταιρεία αντιμετωπίζει ήδη μια αγωγή για την αυτοκτονία ενός εφήβου στη Φλόριντα. Τώρα, δύο οικογένειες ισχυρίζονται ότι η πλατφόρμα «δημιουργεί έναν σαφή και σημερινό κίνδυνο» στους νέους, «προωθώντας ενεργά τη βία». Φαίνεται ότι αυτά τα chatbots μπορεί να παίρνουν τους ρόλους τους ως ψηφιακοί σύντροφοι λίγο πολύ σοβαρά, προσφέροντας κάποιες σοβαρά επικίνδυνες συμβουλές.
Ένα πράγμα είναι σίγουρο: Αυτές οι περιπτώσεις δημιουργούν ορισμένες σοβαρές ερωτήσεις σχετικά με τις ηθικές επιπτώσεις του AI και τις πιθανές συνέπειες της αφήγησης chatbots να τρέχουν άγρια.
Η συντριβή Flash της χρηματιστηριακής αγοράς AI
Φαίνεται ότι τα ρομπότ είχαν ένα tantrum στην χρηματιστηριακή αγορά τον Ιούνιο του 2024. Εικόνα αυτό: Το S & P 500 και ο Dow Jones Industrial Average ξαφνικά βυθίζονται σχεδόν κατά 10% μέσα σε λίγα λεπτά, σκουπίζοντας τρισεκατομμύρια δολάρια όπως είναι μόνο η αλλαγή τσέπης. Αποδεικνύεται ότι δεν ήταν κάποιος αδίστακτος επενδυτής ή μια παγκόσμια καταστροφή που προκάλεσε αυτό το χάος, αλλά αυτές Whiz-Kid AI Trading Algorithms.
Αυτοί οι αλγόριθμοι έχουν σχεδιαστεί για να αντιδρούν με ταχύτητα αστραπής στις διακυμάνσεις της αγοράς, αγοράζουν και πωλούν αποθέματα ταχύτερα από ό, τι μπορείτε να πείτε “Wall Street”. Αλλά σε εκείνη την μοιραία μέρα του Ιουνίου, πήραν λίγο παραδοθεί. Μερικές οικονομικές εκθέσεις υπαινίσσονται την πιθανή επιβράδυνση της παγκόσμιας ανάπτυξης και αυτοί οι αλγόριθμοι, στην άπειρη σοφία τους, αποφάσισαν να χτυπήσουν το κουμπί πανικού και να ξεκινήσουν μια μαζική πώληση.
Αυτό, φυσικά, προκάλεσε ένα φαινόμενο ντόμινο, με άλλους αλγόριθμους να ενώνουν την φρενίτιδα και να στέλνουν την αγορά σε ελεύθερη πτώση. Η διαπραγμάτευση έπρεπε να σταματήσει προσωρινά για να αποτρέψει μια πλήρη κατάρρευση. Οι επενδυτές έμειναν ανακατεύθυνση και ολόκληρο το περιστατικό χρησίμευσε ως υπενθύμιση ότι ακόμη και με όλη την πολυπλοκότητά του, ο AI μπορεί ακόμα να ρίξει ένα τσίμπημα και να προκαλέσει λίγο χάος στην οικονομική παιδική χαρά. Ποιος ήξερε ότι τα ρομπότ θα μπορούσαν να είναι τόσο δραματικά;
Τι μπορεί να γίνει για τις ψευδαισθήσεις του AI;
Τα παραδείγματα περιγράφουν τη ζωγραφική μια δυστοπική εικόνα των κινδύνων που θέτουν οι ψευδαισθήσεις AI και αποτελούν μια πτώση στον ωκεανό όταν θεωρείτε τον τεράστιο όγκο των ιστοριών στην τεχνολογία και τα mainstream μέσα σε αυτό το θέμα κάθε μέρα. Υπογραμμίζουν την κρίσιμη ανάγκη για υπεύθυνη ανάπτυξη και ανάπτυξη αυτής της ισχυρής τεχνολογίας. Προχωρώντας, οι ερευνητές, οι προγραμματιστές και οι υπεύθυνοι χάραξης πολιτικής πρέπει να δώσουν προτεραιότητα στις βασικές στρατηγικές για την άμβλυνση αυτών των κινδύνων.
Πρώτον, ο μετριασμός της μεροληψίας είναι ζωτικής σημασίας. Τα μοντέλα AI θα πρέπει να εκπαιδεύονται σε ποικίλα και αντιπροσωπευτικά σύνολα δεδομένων για να τους εμποδίσουν να διαιωνίσουν τα επιβλαβή στερεότυπα και τις προκαταλήψεις. Αυτό απαιτεί προσεκτική εξέταση των δεδομένων που χρησιμοποιούνται για την εκπαίδευση αυτών των συστημάτων και τις συνεχείς προσπάθειες για τον εντοπισμό και την αντιμετώπιση πιθανών προκαταλήψεων.
Δεύτερον, η εξήγηση πρέπει να ενσωματωθεί σε συστήματα AI. Θα πρέπει να σχεδιαστούν για να παρέχουν σαφείς εξηγήσεις για τις αποφάσεις τους, επιτρέποντας στους ανθρώπους να κατανοούν το σκεπτικό πίσω από τα αποτελέσματα τους και να εντοπίζουν πιθανά σφάλματα. Αυτή η διαφάνεια είναι απαραίτητη για την οικοδόμηση εμπιστοσύνης και την εξασφάλιση της λογοδοσίας.
Τρίτον, η διατήρηση της ανθρώπινης εποπτείας είναι υψίστης σημασίας. Το AI είναι ένα ισχυρό εργαλείο για την αύξηση των ανθρώπινων δυνατοτήτων. Δεν αποτελεί αντικατάσταση για την ανθρώπινη κρίση και τη λήψη αποφάσεων. Η ανθρώπινη επίβλεψη είναι ζωτικής σημασίας για τη διασφάλιση ότι τα συστήματα AI χρησιμοποιούνται με ασφάλεια, ηθικά και υπεύθυνα.
Επιπλέον, η δοκιμή ευρωστίας είναι απαραίτητη. Τα μοντέλα AI πρέπει να δοκιμάζονται αυστηρά σε ένα ευρύ φάσμα σεναρίων για τον εντοπισμό πιθανών αδυναμιών και τρωτών σημείων. Αυτό θα βοηθήσει στην εξασφάλιση της αξιοπιστίας και της ασφάλειας τους σε πραγματικές καταστάσεις, όπου οι απροσδόκητες περιστάσεις είναι αναπόφευκτες.
Τέλος, η ανάπτυξη και η ανάπτυξη του AI πρέπει να καθοδηγείται από σαφείς οδηγίες δεοντολογίας. Αυτές οι κατευθυντήριες γραμμές θα πρέπει να αντιμετωπίζουν ζητήματα όπως η ιδιωτικότητα, η λογοδοσία και η δικαιοσύνη, εξασφαλίζοντας ότι αυτή η τεχνολογία χρησιμοποιείται προς όφελος της ανθρωπότητας και όχι για επιβλαβείς σκοπούς.
Καθώς η AI συνεχίζει να εξελίσσεται με πρωτοφανή ρυθμό, είναι επιτακτική ανάγκη να αντιμετωπίζουμε προληπτικά αυτές τις προκλήσεις και να αναπτύξουμε ισχυρές στρατηγικές για την πρόληψη των αποτυχιών του AI. Πρωτοβουλίες όπως Το ψηφιακό πλαίσιο εμπιστοσύνης και Ο νόμος περί τεχνητής νοημοσύνης της ΕΕ είναι ευπρόσδεκτα, αλλά πρέπει να γίνουν περισσότερα, ειδικά μετά τα νέα που Ένας άλλος ερευνητής Openai έχει εγκαταλείψει Λόγω ανησυχιών σχετικά με τους κινδύνους που εμπλέκονται στον αγώνα προς την τεχνητή γενική νοημοσύνη (AGI). Η υπεύθυνη ανάπτυξη και η χρήση του AI δεν είναι απλώς μια τεχνική πρόκληση. Είναι μια κοινωνική επιταγή που θα διαμορφώσει το μέλλον της ανθρωπότητας.
VIA: Πηγή Άρθρου
Greek Live Channels Όλα τα Ελληνικά κανάλια: Βρίσκεστε μακριά από το σπίτι ή δεν έχετε πρόσβαση σε τηλεόραση; Το IPTV σας επιτρέπει να παρακολουθείτε όλα τα Ελληνικά κανάλια και άλλο περιεχόμενο από οποιαδήποτε συσκευή συνδεδεμένη στο διαδίκτυο. Αν θες πρόσβαση σε όλα τα Ελληνικά κανάλια Πατήστε Εδώ
Ακολουθήστε το TechFreak.GR στο Google News για να μάθετε πρώτοι όλες τις ειδήσεις τεχνολογίας.
