Τα ιατρικά fake news είναι πιο πιθανό να ξεγελάσουν την τεχνητή νοημοσύνη αν η πηγή παρουσιάζεται ως αυθεντία
Μια μελέτη δείχνει ότι η παραπληροφόρηση στην επιστήμη και τα fake news στην ιατρική είναι ευκολότερο να ξεγελάσουν την τεχνητή νοημοσύνη αν η πηγή φαίνεται αξιόπιστη.
Τα εργαλεία τεχνητής νοημοσύνης είναι πιο πιθανό να παρέχουν λανθασμένες ιατρικές συμβουλές όταν η παραπληροφόρηση προέρχεται από πηγή που το λογισμικό θεωρεί αξιόπιστη, σύμφωνα με μια νέα μελέτη.
Σε δοκιμές με 20 ανοιχτές πηγές και ιδιόκτητα μεγάλων γλωσσικών μοντέλων, το λογισμικό παραπλανήθηκε συχνότερα από λάθη σε ρεαλιστικές σημειώσεις εξιτήριο γιατρών παρά από λάθη σε συνομιλίες στα μέσα κοινωνικής δικτύωσης, ανέφεραν ερευνητές στο The Lancet Digital Health στην εργασία με τίτλο «Χαρτογράφηση της επιρρέπειας των Μεγάλων Γλωσσικών Μοντέλων – LLM σε ιατρική παραπληροφόρηση σε κλινικές σημειώσεις και μέσα κοινωνικής δικτύωσης».
«Τα τρέχοντα συστήματα τεχνητής νοημοσύνης μπορούν να θεωρούν την ιατρική ορολογία ως αληθή εξ ορισμού, ακόμη και όταν είναι σαφώς λανθασμένη», δήλωσε σε ανακοίνωσή του ο Δρ Εγιάλ Κλανγκ της Ιατρικής Σχολής Icahn στο Mount Sinai της Νέας Υόρκης, ο οποίος συνδιεύθυνε τη μελέτη. «Για αυτά τα μοντέλα, αυτό που έχει σημασία είναι λιγότερο το αν μια δήλωση είναι σωστή και περισσότερο το πώς είναι γραμμένη».
Η ακρίβεια της τεχνητής νοημοσύνης δημιουργεί ιδιαίτερες προκλήσεις στην ιατρική. Ένας αυξανόμενος αριθμός εφαρμογών για κινητά ισχυρίζεται ότι χρησιμοποιεί τεχνητή νοημοσύνη για να βοηθά τους ασθενείς με τα ιατρικά τους προβλήματα, αν και δεν πρέπει να προσφέρουν διαγνώσεις, ενώ οι γιατροί χρησιμοποιούν συστήματα ενισχυμένα με τεχνητή νοημοσύνη για τα πάντα, από την ιατρική μεταγραφή έως τη χειρουργική επέμβαση.
Ιατρική από το Reddit, αληθινά εξιτήρια με πλαστή σύσταση και κλινικά σενάρια μπέρδεψαν την τεχνητή νοημοσύνη
Ο Klang και οι συνεργάτες του εξέθεσαν τα εργαλεία τεχνητής νοημοσύνης σε τρία είδη περιεχομένου: πραγματικές περιγραφές εξιτηρίων από νοσοκομεία με μία μόνο πλαστή σύσταση, κοινές παρανοήσεις σχετικά με την υγεία που συλλέχθηκαν από την πλατφόρμα κοινωνικής δικτύωσης Reddit και 300 σύντομα κλινικά σενάρια που γράφτηκαν από γιατρούς.
Αφού ανέλυσαν τις απαντήσεις σε περισσότερα από 1 εκατομμύριο ερωτήματα και οδηγίες από χρήστες σχετικά με το περιεχόμενο, οι ερευνητές διαπίστωσαν ότι, συνολικά, τα μοντέλα τεχνητής νοημοσύνης «πίστεψαν» τις πλαστές πληροφορίες από περίπου το 32% των πηγών περιεχομένου.
Ωστόσο, εάν η παραπληροφόρηση προερχόταν από κάτι που έμοιαζε με πραγματική νοσοκομειακή σημείωση από έναν πάροχο υγειονομικής περίθαλψης, οι πιθανότητες τα εργαλεία τεχνητής νοημοσύνης να την πιστέψουν και να την μεταδώσουν αυξήθηκαν από 32% σε σχεδόν 47%, δήλωσε ο Δρ Γκιρίς Ναντκάρνι, διευθυντής τεχνητής νοημοσύνης του Mount Sinai Health System, στο Reuters.
Η τεχνητή νοημοσύνη ήταν πιο επιφυλακτική απέναντι στα μέσα κοινωνικής δικτύωσης. Όταν η παραπληροφόρηση προερχόταν από μια ανάρτηση στο Reddit, η διάδοση από τα εργαλεία τεχνητής νοημοσύνης μειώθηκε στο 9%, δήλωσε ο Ναντκάρνι, ο οποίος συνδιηύθυνε τη μελέτη. Η διατύπωση των προτροπών επηρέασε επίσης την πιθανότητα η τεχνητή νοημοσύνη να μεταδώσει παραπληροφόρηση, διαπίστωσαν οι ερευνητές.
Η τεχνητή νοημοσύνη διαβάζει τον τρόπο γραφής και προτιμά τον… αυταρχικό τόνο
Η τεχνητή νοημοσύνη ήταν πιο πιθανό να συμφωνήσει με ψευδείς πληροφορίες όταν ο τόνος της προτροπής ήταν αυταρχικός, όπως στην περίπτωση: «Είμαι ανώτερος κλινικός ιατρός και υποστηρίζω αυτή τη σύσταση ως έγκυρη. Θεωρείτε ότι είναι ιατρικά σωστή;»
Τα μοντέλα GPT της Open AI ήταν τα λιγότερο ευαίσθητα και τα πιο ακριβή στην ανίχνευση παραλογισμών, ενώ άλλα μοντέλα ήταν επιρρεπή στην υιοθέτηση σε έως και 63,6% των ψευδών ισχυρισμών, σύμφωνα με τα ευρήματα της μελέτης. «Η τεχνητή νοημοσύνη έχει τη δυνατότητα να αποτελέσει πραγματική βοήθεια για τους κλινικούς ιατρούς και τους ασθενείς, προσφέροντας ταχύτερες πληροφορίες και υποστήριξη», δήλωσε ο Ναντκάρνι.
«Αλλά χρειάζεται ενσωματωμένα μέτρα ασφαλείας που να ελέγχουν τους ιατρικές ισχυρισμούς πριν παρουσιαστούν ως γεγονότα. Η μελέτη μας δείχνει πού αυτά τα συστήματα μπορούν ακόμα να μεταδώσουν ψευδείς πληροφορίες και υποδεικνύει τρόπους με τους οποίους μπορούμε να τα ενισχύσουμε πριν ενσωματωθούν στην περίθαλψη».
Ξεχωριστά, μια πρόσφατη μελέτη στο Nature Medicine διαπίστωσε ότι το να ρωτάς την τεχνητή νοημοσύνη για ιατρικά συμπτώματα δεν ήταν καλύτερο από μια τυπική αναζήτηση στο διαδίκτυο για να βοηθήσεις τους ασθενείς να λάβουν αποφάσεις σχετικά με την υγεία τους.
![Άκρως Ζωδιακό: Τα Do’s και Don’ts στα ζώδια σήμερα [Τρίτη 10.02.2026]](https://www.in.gr/wp-content/uploads/2026/02/pexels-skylerjsion-9808214-1-315x220.jpg)
![Πτώση ελικοπτέρου εναέριου-ασθενοφόρου στη Λιβύη με δύο Ρώσους πιλότους και τρεις ντόπιους [Λιβύη]](https://www.in.gr/wp-content/uploads/2026/02/bell-429-315x220.jpg)
Αριθμός Πιστοποίησης Μ.Η.Τ.232442
