Η Τεχνητή Νοημοσύνη στη Δίνη της Ασφάλειας: Το Παράδειγμα της Anthropic
Στον κόσμο της Τεχνητής Νοημοσύνης (AI), ελάχιστοι άνθρωποι μπορούν να θεωρηθούν ως οι πιο εξέχοντες ηγέτες. Ανάμεσά τους βρίσκονται οι Σαμ Άλτμαν της OpenAI, Ντάριο Αμοντέι της Anthropic, Ντέμις Χασάμπης της Google DeepMind, Μάρκ Ζάκερμπεργκ της Meta, και Έλον Μασκ της xAI/Tesla. Η αλματώδης ανάπτυξη της AI έχει προκαλέσει σοβαρές ανησυχίες, ακόμα και στους πρωτοπόρους της τεχνολογίας, με την κυβέρνηση των Ηνωμένων Πολιτειών να αποφασίζει για πρώτη φορά να εξετάσει μέτρα ασφαλείας που αφορούν τη χρήση τεχνολογιών που ενδέχεται να επιφέρουν ανυπολόγιστους κινδύνους.
Η δημόσια άποψη για την AI αρχίζει να κλυδωνίζεται. Οι Ηνωμένες Πολιτείες, που βρίσκονται στο επίκεντρο της AI, ανησυχούν για τις εκτάσεις των data centers, τις περιβαλλοντικές επιπτώσεις, καθώς και για τον πιθανό αντίκτυπο στο εργατικό δυναμικό, μεφαίνεται ότι προδηλώνει μια περίοδο εντεινόμενης δυσπιστίας.
Ασφάλεια και Κίνδυνοι: Το Claude Mythos της Anthropic
Το πρόβλημα έχει περιπλακεί ακόμα περισσότερο με την είσοδο της Anthropic στην αγορά. Η εταιρεία αυτή επιδιώκει να εξασφαλίσει την ασφαλή ανάπτυξη της AI, εισάγοντας το Claude Mythos, ένα σύστημα που μπορεί να εντοπίσει κενά ασφαλείας σε εκτενή λειτουργικά συστήματα σε ελάχιστο χρόνο. Σημαντική είναι η προειδοποίηση ότι τέτοια τεχνολογία μπορεί να εξελιχθεί σε όπλο αν πέσει στα λάθος χέρια, ακόμα και αν αυτά τα χέρια είναι λιγότερο έμπειρα hackers.
Ως απάντηση σε αυτές τις ανησυχίες, η Anthropic περιορίζει την πρόσβαση στο Mythos σε μεγάλες εταιρείες και οργανισμούς, όπως οι Amazon Web Services, Apple, και Google. Η στρατηγική είναι μέρος του προγράμματος Project Glasswing, το οποίο στοχεύει στη θωράκιση βασικών λογισμικών από επιθέσεις.
Η Πολιτική Σκηνή και οι Αλλαγές Στρατηγικής
Ο Ντάριο Αμοντέι, ως υψηλόβαθμο στέλεχος και ιδρυτής της Anthropic, έχει έρθει σε σύγκρουση με το Πεντάγωνο, καθώς έχει δηλώσει ξεκάθαρα ότι δεν επιθυμεί να συμβάλλει στην ανάπτυξη αυτόνομων οπλικών συστημάτων. Η πολιτική αυτή τη στιγμή μεταβάλλεται ριζικά, ενόψει των νέων προκλήσεων που φέρνει η ταχεία πρόοδος στην AI. Την ίδια ώρα, ο Λευκός Οίκος έχει αρχίσει να ενισχύει τις ρυθμιστικές προσπάθειες για τη διαχείριση της AI.
«Υπάρχει σοβαρή ανησυχία για την ασφάλεια στον κυβερνητικό τομέα», δηλώνει η Ζάνι Μίντον-Μπίντοουζ από το Economist, προειδοποιώντας ότι η ταχύτητα ανάπτυξης της τεχνολογίας μπορεί να μην προσφέρει αρκετό χρόνο για τη ρύθμιση της. Στις επόμενες εβδομάδες, η διεθνής κοινότητα θα επικεντρωθεί σε ζητήματα δημιουργίας κανόνων και ορίων, ειδικά στη συνάντηση του πρώην προεδρικού υποψηφίου Ντόναλντ Τραμπ με τον Κινέζο ομόλογό του, Σι Τζινπίνγκ.
Ασφάλεια και Πρόοδος: Η Διφορούμενη Φιλοσοφία της Anthropic
Το πιο αξιοσημείωτο είναι το παράδοξο της Anthropic: αν και προασπίζεται την ασφάλεια της AI, η ίδια δημιούργησε ένα από τα πιο επίφοβα συστήματα της ψηφιακής εποχής. Μετά την αντιπαράθεση με το Πεντάγωνο, άλλες εταιρείες, όπως η OpenAI και η xAI, εργάζονται επιτακτικά για την ανάπτυξη παρόμοιων εργαλείων, υποδεικνύοντας την υψηλή ζήτηση αυτής της τεχνολογίας.
Σύμφωνα με κυβερνητικές πηγές, η διάθεση προγραμμάτων όπως το Mythos μπορεί να μεταμορφώσει τη δυνατότητα ενός μεμονωμένου hacker, καθιστώντας τον συγκρίσιμο με έναν στρατιώτη ειδικών δυνάμεων, κάτι που εγείρει σοβαρούς προβληματισμούς για τη δημόσια ασφάλεια.
Με τον Κανονισμό για την Τεχνητή Νοημοσύνη να αναμένεται να τεθεί σε εφαρμογή από το 2024, η Ευρωπαϊκή Ένωση ανταγωνίζεται τις ΗΠΑ και την Κίνα στην προσπάθεια δημιουργίας ενός πλαισίου ρύθμισης για την AI, που θα μπορούσε να έχει σημαντικές επιπτώσεις για την παγκόσμια τεχνολογία και οικονομία.
!function(f,b,e,v,n,t,s)
{if(f.fbq)return;n=f.fbq=function(){n.callMethod?
n.callMethod.apply(n,arguments):n.queue.push(arguments)};
if(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version=’2.0′;
n.queue=[];t=b.createElement(e);t.async=!0;
t.src=v;s=b.getElementsByTagName(e)[0];
s.parentNode.insertBefore(t,s)}(window, document,’script’,
‘https://connect.facebook.net/en_US/fbevents.js’);
fbq(‘init’, ‘310545344564279’);
fbq(‘track’, ‘PageView’);
