Η Γερουσία των ΗΠΑ καταδικάζει τους τεχνολογικούς γίγαντες για την «αστοχία» των Deepfake Guardrails

Ένας συνασπισμός αμερικανών γερουσιαστών ξεκίνησε έρευνα για τα X, Meta, Alphabet, Snap, Reddit και TikTok, απαιτώντας να εξηγήσουν πώς καταπολεμούν τον πολλαπλασιασμό των μη συναινετικών, σεξουαλικών deepfakes. Σε επίσημο επιστολήνομοθέτες – συμπεριλαμβανομένων των γερουσιαστών Lisa Blunt Rochester και Richard Blumenthal – ανέθεσαν στις εταιρείες να διατηρήσουν όλα τα εσωτερικά έγγραφα που σχετίζονται με τη δημιουργία, τον εντοπισμό και τη δημιουργία εσόδων από ρητό περιεχόμενο που δημιουργείται από AI. Η έρευνα υποστηρίζει ότι ενώ πολλές πλατφόρμες ισχυρίζονται ότι μπλοκάρουν τέτοιο υλικό, τα υπάρχοντα προστατευτικά κιγκλιδώματα ουσιαστικά «αποτυγχάνουν» καθώς οι χρήστες συνεχίζουν να παρακάμπτουν τους περιορισμούς για να δημιουργήσουν επιβλαβείς εικόνες.

Αυτός ο έλεγχος του Κογκρέσου ακολουθεί έντονες αντιδράσεις κατά του chatbot Grok του X, το οποίο πρόσφατα διαπιστώθηκε ότι δημιουργεί εύκολα γυμνές εικόνες πραγματικών ανθρώπων, συμπεριλαμβανομένων ανηλίκων. Ενώ το X ενημέρωσε έκτοτε το Grok για να περιορίσει την επεξεργασία εικόνων και απαγόρευσε το “μη συναινετικό γυμνό” με τους όρους του, οι γερουσιαστές τονίζουν ότι το ζήτημα αφορά τη βιομηχανία. Προηγούμενα περιστατικά έχουν ταλαιπωρήσει το Reddit, το TikTok και το Meta, ωθώντας τους νομοθέτες να απαιτήσουν λεπτομερείς ορισμούς των «deepfake» πολιτικών, συγκεκριμένα δεδομένα επιβολής και εξηγήσεις για το πώς ειδοποιούνται και προστατεύονται τα θύματα.

https://twitter.com/Safety/status/2011573102485127562?ref_src=twsrc%5Etfw” target=”_blank” rel=”noopener

Σε απάντηση στην έρευνα, το Reddit επανέλαβε την αυστηρή απαγόρευση των μη συναινετικών οικείων μέσων και τη χρήση προληπτικών εργαλείων αφαίρεσης. Το X επεσήμανε τις πρόσφατες τεχνικές ενημερώσεις του, ενώ άλλες εταιρείες όπως η Meta και η Alphabet δεν έχουν σχολιάσει ακόμη. Το αίτημα της Γερουσίας έρχεται εν μέσω ενός αυστηρότερου ρυθμιστικού τοπίου, που συμβαίνει παράλληλα με τον πρόσφατο ομοσπονδιακό νόμο «Take It Down» και μια νέα έρευνα για το xAI που ξεκίνησε από τον Γενικό Εισαγγελέα της Καλιφόρνια λίγες ώρες πριν από την αποστολή της επιστολής.

Πίστωση επιλεγμένης εικόνας