Η Google αφαίρεσε ορισμένες από τις συνοπτικές αναφορές της τεχνητής νοημοσύνης για την υγεία, μετά από έρευνα του Guardian που διαπίστωσε ότι άτομα τέθηκαν σε κίνδυνο λόγω ψευδών και παραπλανητικών πληροφοριών.

Η εταιρεία έχει δηλώσει ότι οι Επισκοπήσεις Τεχνητής Νοημοσύνης (AI Overviews), οι οποίες χρησιμοποιούν γενετική Τεχνητή Νοημοσύνη (generative AI) για να παρέχουν στιγμιότυπα βασικών πληροφοριών σχετικά με ένα θέμα ή μια ερώτηση, είναι «χρήσιμες» και «αξιόπιστες».

Παρείχαν ανακριβείς πληροφορίες για την υγεία

Ωστόσο, ορισμένες από τις περιλήψεις, οι οποίες εμφανίζονται στην κορυφή των αποτελεσμάτων αναζήτησης, παρείχαν ανακριβείς πληροφορίες για την υγεία, θέτοντας τους χρήστες σε κίνδυνο.

Σε μια περίπτωση που οι ειδικοί χαρακτήρισαν «επικίνδυνη» και «ανησυχητική», η Google παρείχε ψευδείς πληροφορίες σχετικά με κρίσιμες εξετάσεις ηπατικής λειτουργίας που θα μπορούσαν να κάνουν άτομα με σοβαρή ηπατική νόσο να πιστεύουν λανθασμένα ότι είναι υγιή.

Στην ερώτηση «ποιο είναι το φυσιολογικό εύρος για τις εξετάσεις αίματος ήπατος» παρείχε πλήθος αριθμών, ελάχιστο περιεχόμενο και καμία αναφορά στην εθνικότητα, το φύλο, την εθνικότητα ή την ηλικία των ασθενών, σύμφωνα με τον Guardian.

Αυτό που χαρακτηρίστηκε ως φυσιολογικό στις Επισκοπήσεις Τεχνητής Νοημοσύνης της Google μπορεί να διαφέρει δραστικά από αυτό που στην πραγματικότητα θεωρούνταν φυσιολογικό, ανέφεραν οι ειδικοί. Οι περιλήψεις θα μπορούσαν να οδηγήσουν σοβαρά άρρωστους ασθενείς να πιστεύουν λανθασμένα ότι είχαν φυσιολογικό αποτέλεσμα εξέτασης και να μην μπουν στον κόπο να παρακολουθήσουν τις συναντήσεις παρακολούθησης της υγειονομικής περίθαλψης.

Μετά την έρευνα, η εταιρεία αφαίρεσε τις Επισκοπήσεις AI για τους όρους αναζήτησης «ποιο είναι το φυσιολογικό εύρος για τις εξετάσεις αίματος ήπατος» και «ποιο είναι το φυσιολογικό εύρος για τις εξετάσεις ηπατικής λειτουργίας».

Ένας εκπρόσωπος της Google δήλωσε: «Δεν σχολιάζουμε μεμονωμένες αφαιρέσεις εντός της Αναζήτησης. Σε περιπτώσεις όπου οι Επισκοπήσεις Τεχνητής Νοημοσύνης χάνουν κάποιο περιεχόμενο, εργαζόμαστε για να κάνουμε ευρείες βελτιώσεις και επίσης λαμβάνουμε μέτρα σύμφωνα με τις πολιτικές μας, όπου είναι απαραίτητο».

Οι ανησυχίες

Η Vanessa Hebditch, διευθύντρια επικοινωνίας και πολιτικής στο British Liver Trust, ένα φιλανθρωπικό ίδρυμα για την υγεία του ήπατος, δήλωσε: «Αυτά είναι εξαιρετικά νέα και είμαστε στην ευχάριστη θέση να δούμε την αφαίρεση των Επισκοπήσεων Τεχνητής Νοημοσύνης της Google σε αυτές τις περιπτώσεις».

«Ωστόσο, εάν το ερώτημα τεθεί με διαφορετικό τρόπο, ενδέχεται να δοθεί μια δυνητικά παραπλανητική Επισκόπηση Τεχνητής Νοημοσύνης και εξακολουθούμε να ανησυχούμε ότι άλλες πληροφορίες για την υγεία που παράγονται από την Τεχνητή Νοημοσύνη μπορεί να είναι ανακριβείς και να προκαλούν σύγχυση».

Ο Guardian διαπίστωσε ότι η πληκτρολόγηση μικρών παραλλαγών των αρχικών ερωτημάτων στην Google, όπως «lft reference range» ή «lft test reference range», ώθησε το AI Overviews. Αυτό ήταν μια μεγάλη ανησυχία, είπε η Hebditch.

«Μια εξέταση ηπατικής λειτουργίας ή LFT είναι μια συλλογή διαφορετικών εξετάσεων αίματος. Η κατανόηση των αποτελεσμάτων και των επόμενων ενεργειών είναι περίπλοκη και περιλαμβάνει πολύ περισσότερα από τη σύγκριση ενός συνόλου αριθμών».

«Ωστόσο, οι Επισκοπήσεις Τεχνητής Νοημοσύνης παρουσιάζουν μια λίστα με τεστ με έντονη γραφή, γεγονός που καθιστά πολύ εύκολο για τους αναγνώστες να παραβλέψουν ότι αυτοί οι αριθμοί μπορεί να μην είναι καν οι σωστοί για το τεστ τους».

«Επιπλέον, οι Επισκοπήσεις Τεχνητής Νοημοσύνης δεν προειδοποιούν ότι κάποιος μπορεί να λάβει φυσιολογικά αποτελέσματα για αυτές τις εξετάσεις όταν έχει σοβαρή ηπατική νόσο και χρειάζεται περαιτέρω ιατρική περίθαλψη. Αυτή η ψευδής διαβεβαίωση θα μπορούσε να είναι πολύ επιβλαβής».

Τι λέει η Google

Η Google, η οποία κατέχει μερίδιο 91% στην παγκόσμια αγορά μηχανών αναζήτησης , δήλωσε ότι εξετάζει τα νέα παραδείγματα που της παρείχε η Guardian.

H Hebditch δήλωσε: «Η μεγαλύτερη ανησυχία μας με όλα αυτά είναι ότι πρόκειται για μια ασήμαντη επιλογή ενός μόνο αποτελέσματος αναζήτησης και η Google μπορεί απλώς να απενεργοποιήσει τις Επισκοπήσεις Τεχνητής Νοημοσύνης για αυτό, αλλά δεν αντιμετωπίζει το μεγαλύτερο ζήτημα των Επισκοπήσεων Τεχνητής Νοημοσύνης για την υγεία».

Η Farrington., πρόεδρος του Φόρουμ Πληροφόρησης Ασθενών, το οποίο προωθεί πληροφορίες για την υγεία βασισμένες σε τεκμηριωμένα στοιχεία σε ασθενείς, κοινό και επαγγελματίες υγείας, χαιρέτισε την αφαίρεση των περιλήψεων, αλλά δήλωσε ότι εξακολουθεί να έχει ανησυχίες.

«Αυτό είναι ένα καλό αποτέλεσμα, αλλά είναι μόνο το πρώτο βήμα σε ό,τι χρειάζεται για να διατηρηθεί η εμπιστοσύνη στα αποτελέσματα αναζήτησης της Google που σχετίζονται με την υγεία. Υπάρχουν ακόμα πάρα πολλά παραδείγματα όπου οι Επισκοπήσεις Τεχνητής Νοημοσύνης της Google παρέχουν στους ανθρώπους ανακριβείς πληροφορίες για την υγεία».

Εκατομμύρια ενήλικες παγκοσμίως ήδη δυσκολεύονται να έχουν πρόσβαση σε αξιόπιστες πληροφορίες υγείας, δήλωσε η Farrington. «Γι’ αυτό είναι τόσο σημαντικό η Google να καθοδηγεί τους ανθρώπους προς αξιόπιστες, ερευνημένες πληροφορίες υγείας και προσφορές φροντίδας από αξιόπιστους οργανισμούς υγείας».

Οι Επισκοπήσεις Τεχνητής Νοημοσύνης εξακολουθούν να εμφανίζονται για άλλα παραδείγματα που ο Guardian αρχικά είχε επισημάνει στην Google . Περιλαμβάνουν περιλήψεις πληροφοριών σχετικά με τον καρκίνο και την ψυχική υγεία, τις οποίες οι ειδικοί χαρακτήρισαν ως «εντελώς λανθασμένες» και «πραγματικά επικίνδυνες».

Όταν ρωτήθηκε γιατί αυτές οι Επισκοπήσεις Τεχνητής Νοημοσύνης δεν είχαν επίσης αφαιρεθεί, η Google απάντησε ότι συνδέονταν με γνωστές και αξιόπιστες πηγές και ενημέρωναν τους ανθρώπους πότε ήταν σημαντικό να αναζητήσουν συμβουλές ειδικών.

Ειδήσεις Σήμερα: