Το Anthropic έχει ένα μήνα

Η Anthropic έχει χτίσει τη δημόσια ταυτότητά της γύρω από τη νικήτρια ιδέα ότι είναι η προσεκτική εταιρεία τεχνητής νοημοσύνης. Δημοσιεύει λεπτομερή έρευνα σχετικά με τον κίνδυνο τεχνητής νοημοσύνης, απασχολεί μερικούς από τους καλύτερους ερευνητές στον τομέα και έχει μιλήσει για τις ευθύνες που συνεπάγεται η κατασκευή τόσο ισχυρής τεχνολογίας – τόσο βαριά, φυσικά, που αυτή τη στιγμή το παλεύει με το Υπουργείο Άμυνας. Την Τρίτη, δυστυχώς, κάποιος εκεί ξέχασε να τσεκάρει ένα πλαίσιο.

Είναι, συγκεκριμένα, η δεύτερη φορά μέσα σε μια εβδομάδα. Την περασμένη Πέμπτη, Fortune αναφέρθηκε ότι η Anthropic είχε κατά λάθος δημοσιοποιήσει σχεδόν 3.000 εσωτερικά αρχεία, συμπεριλαμβανομένης μιας πρόχειρης ανάρτησης ιστολογίου που περιγράφει ένα ισχυρό νέο μοντέλο που η εταιρεία δεν είχε ακόμη ανακοινώσει.

Να τι συνέβη την Τρίτη: Όταν η Anthropic κυκλοφόρησε την έκδοση 2.1.88 του πακέτου λογισμικού Claude Code, συμπεριέλαβε κατά λάθος ένα αρχείο που εξέθεσε σχεδόν 2.000 αρχεία πηγαίου κώδικα και περισσότερες από 512.000 γραμμές κώδικα — ουσιαστικά το πλήρες αρχιτεκτονικό σχέδιο για ένα από τα πιο σημαντικά προϊόντα της. Ένας ερευνητής ασφαλείας ονόματι Chaofan Shou παρατήρησε σχεδόν αμέσως και δημοσιεύτηκε σχετικά στο Χ. Η δήλωση της Anthropic σε πολλά καταστήματα ήταν αδιάφορη όπως λένε τα εξής: “Αυτό ήταν ένα ζήτημα συσκευασίας που προκλήθηκε από ανθρώπινο λάθος, όχι από παραβίαση ασφαλείας.” (Εσωτερικά, υποθέτουμε ότι τα πράγματα ήταν λιγότερο μετρημένα.)

Ο Claude Code δεν είναι ένα δευτερεύον προϊόν. Είναι ένα εργαλείο γραμμής εντολών που επιτρέπει στους προγραμματιστές να χρησιμοποιούν την τεχνητή νοημοσύνη του Anthropic για να γράφουν και να επεξεργάζονται κώδικα και έχει γίνει αρκετά τρομερό για να ενοχλεί τους αντιπάλους. Σύμφωνα με το WSJ, το OpenAI τράβηξε την πρίζα στο προϊόν παραγωγής βίντεο Sora μόλις έξι μήνες μετά την κυκλοφορία του στο κοινό για να επικεντρώσει εκ νέου τις προσπάθειές του σε προγραμματιστές και επιχειρήσεις — εν μέρει ως απάντηση στην αυξανόμενη δυναμική του Claude Code.

Αυτό που διέρρευσε δεν ήταν το ίδιο το μοντέλο τεχνητής νοημοσύνης αλλά η σκαλωσιά του λογισμικού γύρω του — οι οδηγίες που λένε στο μοντέλο πώς να συμπεριφέρεται, ποια εργαλεία να χρησιμοποιήσει και πού είναι τα όριά του. Οι προγραμματιστές άρχισαν να δημοσιεύουν λεπτομερείς αναλύσεις σχεδόν αμέσως, με μία να περιγράφει το προϊόν ως «α εμπειρία προγραμματιστή σε επίπεδο παραγωγήςόχι απλώς ένα περιτύλιγμα γύρω από ένα API.”

Το αν αυτό αποδεικνύεται σημαντικό με οποιονδήποτε διαρκή τρόπο είναι ένα ερώτημα που πρέπει να αφεθεί στους προγραμματιστές. Οι διαγωνιζόμενοι μπορεί να βρουν την αρχιτεκτονική διδακτική. την ίδια στιγμή, το πεδίο κινείται γρήγορα.

Είτε έτσι είτε αλλιώς, κάπου στο Anthropic, μπορείτε να φανταστείτε ότι ένας πολύ ταλαντούχος μηχανικός έχει περάσει την υπόλοιπη μέρα αθόρυβα να αναρωτιέται αν έχουν ακόμα δουλειά. Μπορεί κανείς μόνο να ελπίζει ότι δεν είναι ο ίδιος μηχανικός, ή η ίδια ομάδα μηχανικών, από τα τέλη της περασμένης εβδομάδας.