Η λειτουργία αναζήτησης της Google, AI Overviews, παραπέμπει συχνότερα στο YouTube παρά σε αξιόπιστους ιατρικούς ιστότοπους όταν παρέχει απαντήσεις σε ερωτήματα σχετικά με θέματα υγείας, σύμφωνα με έρευνα που εγείρει νέα ερωτήματα για ένα εργαλείο το οποίο βλέπουν περίπου 2 δισεκατομμύρια χρήστες κάθε μήνα.
Η εταιρεία έχει δηλώσει ότι οι περιλήψεις- οι οποίες εμφανίζονται στην κορυφή των αποτελεσμάτων αναζήτησης και παράγονται από τεχνητή νοημοσύνη– είναι «αξιόπιστες» και παραπέμπουν σε έγκυρες ιατρικές πηγές, όπως τα Κέντρα Ελέγχου και Πρόληψης Νοσημάτων (CDC) και η Mayo Clinic. Ωστόσο, μελέτη που ανέλυσε απαντήσεις σε περισσότερα από 50.000 ερωτήματα υγείας, τα οποία καταγράφηκαν μέσω αναζητήσεων Google από το Βερολίνο, διαπίστωσε ότι η συχνότερα αναφερόμενη πηγή ήταν το YouTube. Η πλατφόρμα βίντεο είναι ο δεύτερος πιο επισκέψιμος ιστότοπος παγκοσμίως, μετά την ίδια τη Google, στην οποία ανήκει το YouTube.
Ερευνητές της SE Ranking, μιας πλατφόρμας βελτιστοποίησης μηχανών αναζήτησης, διαπίστωσαν ότι το YouTube αντιστοιχούσε στο 4,43% όλων των παραπομπών των AI Overviews. Όπως ανέφεραν οι ερευνητές, κανένα δίκτυο νοσοκομείων, κρατική πύλη υγείας, ιατρικός σύλλογος ή ακαδημαϊκό ίδρυμα δεν πλησίασε αυτό το ποσοστό.
«Αυτό έχει σημασία, γιατί το YouTube δεν είναι ιατρικός φορέας», έγραψαν οι ερευνητές. «Είναι μια ανοιχτή πλατφόρμα βίντεο. Οποιοσδήποτε μπορεί να ανεβάσει περιεχόμενο εκεί (π.χ. πιστοποιημένοι γιατροί, κανάλια νοσοκομείων, αλλά και influencers ευεξίας, life coaches και δημιουργοί χωρίς καμία ιατρική εκπαίδευση)».
Η Google δήλωσε στον Guardian ότι τα AI Overviews έχουν σχεδιαστεί ώστε να αναδεικνύουν υψηλής ποιότητας περιεχόμενο από αξιόπιστες πηγές, ανεξαρτήτως μορφής, και ότι πολλοί έγκυροι φορείς υγείας και αδειοδοτημένοι επαγγελματίες υγείας δημιουργούν περιεχόμενο στο YouTube. Πρόσθεσε ότι τα ευρήματα της μελέτης δεν μπορούν να γενικευθούν σε άλλες περιοχές, καθώς η έρευνα βασίστηκε σε γερμανόφωνες αναζητήσεις στη Γερμανία.
Διαβάστε επίσης: OpenAI: Λανσάρει λειτουργία για την υγεία
Η έρευνα αυτή έρχεται μετά από δημοσιογραφική έρευνα του Guardian, η οποία διαπίστωσε ότι άνθρωποι εκτίθενται σε κίνδυνο βλάβης λόγω ψευδών ή παραπλανητικών πληροφοριών υγείας στις απαντήσεις των AI Overviews της Google. Σε μία περίπτωση που ειδικοί χαρακτήρισαν «επικίνδυνη» και «ανησυχητική», η Google παρείχε λανθασμένες πληροφορίες σχετικά με κρίσιμες εξετάσεις ηπατικής λειτουργίας, γεγονός που θα μπορούσε να οδηγήσει άτομα με σοβαρή ηπατική νόσο στο να πιστεύουν εσφαλμένα ότι είναι υγιή. Η εταιρεία αφαίρεσε αργότερα τα AI Overviews για ορισμένες, αλλά όχι όλες, ιατρικές αναζητήσεις.
Η μελέτη της SE Ranking ανέλυσε 50.807 ερωτήματα και λέξεις-κλειδιά που σχετίζονται με την υγειονομική περίθαλψη, προκειμένου να διαπιστωθεί σε ποιες πηγές βασίζονται τα AI Overviews κατά τη δημιουργία απαντήσεων. Οι ερευνητές επέλεξαν τη Γερμανία επειδή το σύστημα υγείας της ρυθμίζεται αυστηρά από έναν συνδυασμό γερμανικών και ευρωπαϊκών οδηγιών, προτύπων και κανονισμών ασφάλειας.
«Αν τα συστήματα τεχνητής νοημοσύνης βασίζονται σε μεγάλο βαθμό σε μη ιατρικές ή μη αυθεντικές πηγές ακόμη και σε ένα τέτοιο περιβάλλον, αυτό υποδηλώνει ότι το πρόβλημα ενδέχεται να εκτείνεται πέρα από μία μόνο χώρα», έγραψαν οι συγγραφείς στη μελέτη τους.
Σύμφωνα με τους ερευνητές, τα AI Overviews εμφανίστηκαν σε πάνω από το 82% των αναζητήσεων που σχετίζονταν με την υγεία. Όταν εξέτασαν ποιες πηγές χρησιμοποιούνταν συχνότερα στις απαντήσεις που σχετίζονταν με την υγεία, το YouTube ήταν η πρώτη πηγή με 20.621 παραπομπές σε σύνολο 465.823.
Η δεύτερη πιο συχνά αναφερόμενη πηγή ήταν το NDR.de, με 14.158 παραπομπές (3,04%). Ο γερμανικός δημόσιος ραδιοτηλεοπτικός φορέας παράγει περιεχόμενο υγείας παράλληλα με ειδήσεις, ντοκιμαντέρ και ψυχαγωγία. Στην τρίτη θέση βρέθηκε ένας ιατρικός ιστότοπος αναφοράς, το Msdmanuals.com, με 9.711 παραπομπές (2,08%).
Η τέταρτη πιο συχνά αναφερόμενη πηγή ήταν η μεγαλύτερη γερμανική πύλη υγείας για το κοινό, η Netdoktor.de, με 7.519 παραπομπές (1,61%). Πέμπτη ήταν η πλατφόρμα επαγγελματικής σταδιοδρομίας για γιατρούς, Praktischarzt.de, με 7.145 παραπομπές (1,53%).
Διαβάστε επίσης: Google: Το 90% των εργαζομένων στην τεχνολογία χρησιμοποιεί τεχνητή νοημοσύνη στην εργασία του
Τα αποτελέσματα ενδέχεται να διαφέρουν με την πάροδο του χρόνου, ανά περιοχή και ανάλογα με τη διατύπωση των ερωτήσεων. Ωστόσο, ακόμη και με αυτές τις επιφυλάξεις, τα ευρήματα προκάλεσαν ανησυχία.
Η Χάνα βαν Κόλφσκούτεν, ερευνήτρια με ειδίκευση στην τεχνητή νοημοσύνη, την υγεία και το δίκαιο στο Πανεπιστήμιο της Βασιλείας, η οποία δεν συμμετείχε στη μελέτη, δήλωσε: «Η μελέτη αυτή παρέχει εμπειρικές αποδείξεις ότι οι κίνδυνοι που ενέχουν τα AI Overviews για την υγεία είναι δομικοί και όχι μεμονωμένα περιστατικά. Γίνεται δύσκολο για την Google να υποστηρίξει ότι οι παραπλανητικές ή επιβλαβείς πληροφορίες υγείας αποτελούν σπάνιες εξαιρέσεις. Αντίθετα, τα ευρήματα δείχνουν ότι αυτοί οι κίνδυνοι είναι ενσωματωμένοι στον τρόπο με τον οποίο έχουν σχεδιαστεί τα AI Overviews. Ειδικότερα, η έντονη εξάρτηση από το YouTube, αντί από δημόσιες αρχές υγείας ή ιατρικά ιδρύματα, υποδηλώνει ότι η ορατότητα και η δημοφιλία-και όχι η ιατρική αξιοπιστία- αποτελούν τον βασικό παράγοντα διαμόρφωσης της γνώσης για την υγεία».
Εκπρόσωπος της Google δήλωσε: «Ο υπαινιγμός ότι τα AI Overviews παρέχουν αναξιόπιστες πληροφορίες διαψεύδεται από τα ίδια τα δεδομένα της έρευνας, τα οποία δείχνουν ότι οι συχνότερα αναφερόμενοι ιστότοποι στα AI Overviews είναι αξιόπιστοι. Και, σύμφωνα με όσα έχουμε δει στα δημοσιευμένα ευρήματα, τα AI Overviews παραπέμπουν σε εξειδικευμένο περιεχόμενο του YouTube από νοσοκομεία και κλινικές».
Η Google ανέφερε ότι η μελέτη έδειξε πως από τα 25 πιο συχνά παραπεμπόμενα βίντεο του YouTube, το 96% προερχόταν από ιατρικά κανάλια. Ωστόσο, οι ερευνητές προειδοποίησαν ότι τα συγκεκριμένα βίντεο αντιπροσωπεύουν λιγότερο από το 1% όλων των συνδέσμων του YouTube που παραπέμπουν τα AI Overviews σε θέματα υγείας.
«Οι περισσότεροι από αυτούς (24 από τους 25) προέρχονται από ιατρικά κανάλια, όπως νοσοκομεία, κλινικές και οργανισμούς υγείας», έγραψαν οι ερευνητές. «Επιπλέον, στα 21 από τα 25 βίντεο αναφέρεται ξεκάθαρα ότι το περιεχόμενο δημιουργήθηκε από αδειοδοτημένη ή αξιόπιστη πηγή. Έτσι, με μια πρώτη ματιά, η εικόνα φαίνεται καθησυχαστική. Όμως είναι σημαντικό να θυμόμαστε ότι αυτά τα 25 βίντεο αποτελούν απλώς ένα ελάχιστο δείγμα (λιγότερο από το 1% όλων των συνδέσμων του YouTube που παραπέμπουν τα AI Overviews). Μπορεί να ισχύει κάτι διαφορετικό για τα υπόλοιπα βίντεο» επεσήμαναν οι ερευνητές.
Πηγή: Guardian
www.ertnews.gr
Ακολουθήστε το myvolos.net στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
