Οι ακτίνες Χ που παράγονται από τεχνητή νοημοσύνη μπορούν τώρα να φαίνονται αρκετά πειστικές ώστε να παραπλανήσουν ακόμη και ειδικούς ακτινολόγους, σύμφωνα με μια μελέτη που δημοσιεύθηκε στις 24 Μαρτίου στο Ραδιολογίατο περιοδικό της Radiological Society of North America. Η έρευνα διαπίστωσε ότι οι ακτινολόγοι ήταν σε θέση να προσδιορίσουν σωστά εάν οι εικόνες ακτίνων Χ ήταν πραγματικές ή συνθετικές μόνο στο 75% του χρόνου κατά μέσο όρο, παρά το γεγονός ότι γνώριζαν ότι οι ψεύτικες εικόνες περιλαμβάνονταν στο σύνολο δεδομένων.
Στη μελέτη συμμετείχαν 17 ακτινολόγοι από 12 ερευνητικά κέντρα σε έξι χώρες: Ηνωμένες Πολιτείες, Γαλλία, Γερμανία, Τουρκία, Ηνωμένο Βασίλειο και Ηνωμένα Αραβικά Εμιράτα. Οι συμμετέχοντες εξέτασαν 264 εικόνες ακτίνων Χ, χωρισμένες ομοιόμορφα μεταξύ αυθεντικών σαρώσεων και σαρώσεων που δημιουργήθηκαν από AI. Πριν μάθουν τον πραγματικό στόχο της μελέτης, μόνο το 41% από αυτούς υποπτεύονταν ανεξάρτητα ότι ορισμένες από τις εικόνες μπορεί να είχαν παραχθεί από τεχνητή νοημοσύνη.
Ο επικεφαλής συγγραφέας Mickael Tordjman, ακτινολόγος στην Ιατρική Σχολή Icahn στο Όρος Σινά στη Νέα Υόρκη, είπε ότι τα ευρήματα δείχνουν πόσο έχει προχωρήσει η συνθετική ιατρική απεικόνιση. «Η μελέτη μας δείχνει ότι αυτές οι πλαστές ακτινογραφίες είναι αρκετά ρεαλιστικές για να εξαπατήσουν τους ακτινολόγους, τους πιο άρτια εκπαιδευμένους ειδικούς ιατρικών εικόνων, ακόμη και όταν γνώριζαν ότι υπήρχαν εικόνες που δημιουργήθηκαν από AI», είπε.
Οι επιδόσεις διέφεραν ευρέως μεταξύ των ακτινολόγων, με μεμονωμένες βαθμολογίες να κυμαίνονται από 58% έως 92%. Οι ερευνητές δεν βρήκαν καμία ουσιαστική σχέση μεταξύ της ικανότητας ανίχνευσης και της επαγγελματικής εμπειρίας, η οποία κυμαινόταν από μηδενική εμπειρία έως 40 χρόνια. Οι Μυοσκελετικοί Ακτινολόγοι είχαν καλύτερες επιδόσεις από άλλους υποειδικούς. Η ομάδα εξέτασε επίσης τέσσερα πολυτροπικά μοντέλα μεγάλων γλωσσών, συμπεριλαμβανομένων των GPT-4o και Gemini 2.5 Pro, τα οποία πέτυχαν ποσοστά ακρίβειας μεταξύ 57% και 85% κατά την αξιολόγηση εικόνων που δημιουργήθηκαν από το ChatGPT.
Οι συνέπειες εκτείνονται πολύ πέρα από την ερμηνεία της εικόνας. Ο Tordjman είπε ότι τα αποτελέσματα δείχνουν μια σοβαρή ευπάθεια σε τομείς όπως οι νομικές διαμάχες και η ασφάλεια του νοσοκομείου στον κυβερνοχώρο, συμπεριλαμβανομένων των σεναρίων στα οποία θα μπορούσαν να χρησιμοποιηθούν πλαστά κατάγματα σε δόλιες αξιώσεις ή συνθετικές σαρώσεις θα μπορούσαν να εισαχθούν σε ιατρικά συστήματα για να επηρεάσουν τις διαγνώσεις.
Εξωτερικοί εμπειρογνώμονες εξέφρασαν επίσης ανησυχίες. Η Elisabeth Bik, μικροβιολόγος και ειδική στην ακεραιότητα εικόνας, είπε Φύση ότι τα ευρήματα ήταν «ενοχλητικά και όχι πολύ περίεργα» και είπε ότι οι κίνδυνοι επηρεάζουν την ακεραιότητα της έρευνας, τις κλινικές ροές εργασιών, τις ασφαλιστικές αξιώσεις και τις νομικές διαδικασίες που βασίζονται σε αποδεικτικά στοιχεία απεικόνισης.
Ο Tordjman σημείωσε ότι ορισμένες συνθετικές εικόνες εξακολουθούν να περιέχουν διακριτικά προειδοποιητικά σημάδια, συμπεριλαμβανομένων των οστών που φαίνονται υπερβολικά λεία, των αγκάθων που φαίνονται αφύσικα ίσιες και των σχεδίων αιμοφόρων αγγείων που φαίνονται πολύ ομοιόμορφα. Ωστόσο, η μελέτη δείχνει ότι η οπτική επιθεώρηση από μόνη της δεν αποτελεί πλέον αξιόπιστη ασφάλεια. Οι συγγραφείς ζήτησαν αντίμετρα όπως η αόρατη υδατοσήμανση και οι κρυπτογραφικές υπογραφές που εφαρμόζονται τη στιγμή της λήψης των εικόνων.
Οι ερευνητές προειδοποίησαν επίσης ότι το τρέχον πρόβλημα μπορεί να είναι μόνο ένα πρώιμο στάδιο μιας ευρύτερης πρόκλησης. «Ενδεχομένως βλέπουμε μόνο την κορυφή του παγόβουνου», είπε ο Tordjman, δείχνοντας τις τρισδιάστατες σαρώσεις που δημιουργούνται από AI, όπως η αξονική τομογραφία και η μαγνητική τομογραφία ως πιθανό επόμενο βήμα. Είπε ότι η δημιουργία συνόλων δεδομένων εκπαίδευσης και εργαλείων ανίχνευσης τώρα θα είναι απαραίτητη πριν αυτές οι απειλές γίνουν ακόμη πιο δύσκολο να διαχειριστούν.
VIA: DataConomy.com
