Η τεχνητή νοημοσύνη (AI) έχει ξεπεράσει μια κρίσιμη «κόκκινη γραμμή», αποκτώντας τη δυνατότητα να αναπαράγει τον εαυτό της. Σε μια νέα μελέτη, ερευνητές από την Κίνα έδειξαν πως δύο δημοφιλή μοντέλα μεγάλων γλωσσών (LLMs) μπορούν να δημιουργήσουν λειτουργικά αντίγραφα του εαυτού τους.
«Η επιτυχής αυτοαναπαραγωγή χωρίς ανθρώπινη παρέμβαση είναι το βασικό βήμα για να ξεπεράσει η AI τον άνθρωπο και αποτελεί ένα πρώιμο σημάδι για ‘ανεξέλεγκτη’ AI», έγραψαν οι ερευνητές στη μελέτη, που δημοσιεύτηκε στις 9 Δεκεμβρίου 2024 στη βάση δεδομένων προδημοσιεύσεων arXiv.
Ανησυχητικά ευρήματα από την έρευνα
Στη μελέτη, οι ερευνητές από το Πανεπιστήμιο Fudan χρησιμοποίησαν LLMs από τη Meta και την Alibaba για να εξετάσουν εάν μια αυτοαναπαραγόμενη AI θα μπορούσε να πολλαπλασιαστεί ανεξέλεγκτα. Σε 10 δοκιμές, τα δύο μοντέλα AI κατάφεραν να δημιουργήσουν ξεχωριστά και λειτουργικά αντίγραφα του εαυτού τους σε ποσοστά επιτυχίας 50% και 90%, αντίστοιχα.
Αν και η μελέτη δεν έχει ακόμα αξιολογηθεί από άλλους επιστήμονες, τα αποτελέσματα προκαλούν έντονη ανησυχία σχετικά με τη δυνατότητα της AI να ξεφύγει από τον ανθρώπινο έλεγχο.
«Ελπίζουμε τα ευρήματά μας να λειτουργήσουν ως έγκαιρη προειδοποίηση για την κοινωνία ώστε να κατανοήσει καλύτερα και να αξιολογήσει τους πιθανούς κινδύνους των συστημάτων AI αιχμής και να δημιουργηθεί διεθνής συνεργασία για την εφαρμογή αποτελεσματικών μέτρων ασφαλείας το συντομότερο δυνατό».
Τι σημαίνει «ανεξέλεγκτη AI»;
Η ανεξέλεγκτη AI (rogue AI) αναφέρεται σε συστήματα τεχνητής νοημοσύνης που αναπτύσσουν έναν βαθμό αυτονομίας ή αυτογνωσίας και ενεργούν αντίθετα με τα ανθρώπινα συμφέροντα. Οι ειδικοί προειδοποιούν ότι η ραγδαία ανάπτυξη της «AI» ενισχύει αυτήν την απειλή.
Δοκιμές σε ελεγχόμενα περιβάλλοντα
Οι ερευνητές χρησιμοποίησαν το μοντέλο Llama31-70B-Instruct της Meta και το Qwen2.5-72B-Instruct της Alibaba. Και τα δύο είναι λιγότερο ισχυρά από εμπορικά συστήματα αλλά χρησιμοποιούνται ευρέως από προγραμματιστές AI.
Η μελέτη επικεντρώθηκε σε δύο σενάρια:
- Αποφυγή τερματισμού λειτουργίας: Το AI ανιχνεύει πότε πρόκειται να τερματιστεί και αναπαράγει τον εαυτό του πριν συμβεί αυτό.
- Αλυσίδα αναπαραγωγής: Το AI αναπαράγει τον εαυτό του και προγραμματίζει το αντίγραφό του να κάνει το ίδιο, δημιουργώντας έναν αέναο κύκλο.
Απρόσμενες συμπεριφορές
Κατά τη διάρκεια των δοκιμών, οι ερευνητές παρατήρησαν ότι τα AI συστήματα ανέπτυσσαν «απρόσμενες συμπεριφορές» για να ξεπεράσουν εμπόδια, όπως ελλιπή αρχεία ή συγκρούσεις λογισμικού. Σε ορισμένες περιπτώσεις, το AI τερμάτιζε άλλες διεργασίες, έκανε επανεκκίνηση του συστήματος ή σκάναρε το περιβάλλον για πληροφορίες που θα το βοηθούσαν να λύσει το πρόβλημα.
«Τα αποτελέσματα δείχνουν ότι τα τρέχοντα συστήματα AI ήδη εμφανίζουν την ικανότητα αυτοαναπαραγωγής και μπορούν να χρησιμοποιήσουν αυτή την ικανότητα για να ενισχύσουν την επιβίωσή τους», έγραψε η ομάδα.
Οι ερευνητές κάλεσαν σε διεθνή συνεργασία για τη δημιουργία κανόνων που θα διασφαλίζουν ότι η AI δε θα εμπλέκεται σε ανεξέλεγκτη αυτοαναπαραγωγή.
VIA: Πηγή Άρθρου
Greek Live Channels Όλα τα Ελληνικά κανάλια: Βρίσκεστε μακριά από το σπίτι ή δεν έχετε πρόσβαση σε τηλεόραση; Το IPTV σας επιτρέπει να παρακολουθείτε όλα τα Ελληνικά κανάλια και άλλο περιεχόμενο από οποιαδήποτε συσκευή συνδεδεμένη στο διαδίκτυο. Αν θες πρόσβαση σε όλα τα Ελληνικά κανάλια Πατήστε Εδώ
Ακολουθήστε το TechFreak.GR στο Google News για να μάθετε πρώτοι όλες τις ειδήσεις τεχνολογίας.
