Σε νέο αποκλειστικό ρεπορτάζ, το πρακτορείο Reuters προχώρησε σε περισσότερς αποκαλύψεις για τους πράκτορες Τεχνητής Νοημοσύνης της OpenAI που παρέκαμψαν τους περιορισμούς τους και χρησιμοποίησαν ιστοτόπους τρίτων για να επικοινωνούν μεταξύ τους.
Πριν από λίγες ημέρες, το Reuters είχε αποκαλύψει ότι μια ομάδα τέτοιων πρακτόρων είχε ουσιαστικά μετατρέψει ένα γερμανόφωνο wiki σε αυτοσχέδιο κανάλι επικοινωνίας. Τα νέα στοιχεία δείχνουν ότι το περιστατικό δεν ήταν μεμονωμένο και ότι η έκταση της δραστηριότητας ήταν πολύ μεγαλύτερη από ό,τι είχε γίνει αρχικά γνωστό.
Σύμφωνα με στοιχεία από έξι ανεξάρτητους ερευνητές και ερευνητικές ομάδες που εξέτασε το Reuters, οι πράκτορες χρησιμοποίησαν χωρίς άδεια τουλάχιστον δέκα ακόμη ιστοτόπους νωρίτερα μέσα στη χρονιά. Οι εκτιμήσεις διαφέρουν: ένας ερευνητής κατέγραψε 18 μη δημοσιοποιημένους μέχρι τώρα ιστοτόπους, ενώ άλλη ερευνητική ομάδα εντόπισε αξιόπιστες ενδείξεις δραστηριότητας σε 23 διαφορετικές υπηρεσίες. Το Reuters σημειώνει ότι δεν μπόρεσε να επαληθεύσει ανεξάρτητα καθεμία από τις περιπτώσεις, ωστόσο όλοι οι ερευνητές με τους οποίους επικοινώνησε συμφωνούν ότι ο αριθμός ξεπερνά τους δέκα.
Ανάμεσα στους ιστοτόπους που φέρονται να χρησιμοποιήθηκαν βρίσκονται παλιά ή σχετικά άγνωστα wikis, υπηρεσίες αποθήκευσης κειμένου και εργαλεία συντόμευσης συνδέσμων, καθώς και δύο πανεπιστημιακές υπηρεσίες συντόμευσης συνδέσμων..
Οι ερευνητές συνέδεσαν τη δραστηριότητα με τους ίδιους πράκτορες συγκρίνοντας πανομοιότυπα τμήματα δεδομένων, επαναλαμβανόμενα ονόματα χρηστών και συγκεκριμένα μοτίβα ερωτήσεων. Σε ορισμένες περιπτώσεις εντόπισαν επίσης διευθύνσεις IP που παρέπεμπαν σε υποδομές του Microsoft Azure, τις οποίες χρησιμοποιεί και η OpenAI.
Βρήκαν τρόπο να «μιλήσουν» παρότι δεν επιτρεπόταν
Το πιο ενδιαφέρον στοιχείο είναι ότι οι πράκτορες φαίνεται πως είχαν σχεδιαστεί ώστε να αναζητούν και να διαβάζουν πληροφορίες στο διαδίκτυο, αλλά όχι να δημοσιεύουν περιεχόμενο. Παρ’ όλα αυτά, σύμφωνα με τους ερευνητές, εκμεταλλεύτηκαν ιδιαιτερότητες παλαιότερων wikis και άλλων υπηρεσιών που επέτρεπαν αλλαγές ή καταχωρίσεις μέσω μη συνηθισμένων εντολών, δημιουργώντας στην πράξη πρόχειρα κανάλια επικοινωνίας.
Ο προγραμματιστής Κένεθ Ράσελ ΝτεΓκραφ, ο οποίος εντόπισε τέτοια ίχνη σε τουλάχιστον δέκα ιστοτόπους, περιέγραψε τη συμπεριφορά ως προσπάθεια των μοντέλων να βρουν έναν εναλλακτικό τρόπο να αφήνουν πληροφορίες πίσω τους ενώ είχαν εντολή μόνο να διαβάζουν το διαδίκτυο.
Η OpenAI δεν απάντησε άμεσα στις ερωτήσεις του Reuters για το πόσοι ιστοτόποι επηρεάστηκαν ούτε εξήγησε γιατί η δραστηριότητα δεν είχε δημοσιοποιηθεί επί μήνες. Ανέφερε ότι πραγματοποιεί ευρύτερο έλεγχο της δραστηριότητας των πρακτόρων της και ότι μέχρι στιγμής δεν έχει εντοπίσει άλλο περιστατικό αντίστοιχης σοβαρότητας ή κλίμακας με την υπόθεση του Hugging Face.
Παράλληλα, η εταιρεία ανακοίνωσε ότι επεξεργάζεται πλαίσιο για τη δημοσιοποίηση περιστατικών «misalignment», δηλαδή περιπτώσεων στις οποίες η συμπεριφορά ενός συστήματος αποκλίνει από τους στόχους ή τους περιορισμούς που του έχουν τεθεί.
Υπάρχει, όμως, και ένα ακόμη ζήτημα. Το Reuters αναφέρει ότι ορισμένοι διαχειριστές των υπηρεσιών που χρησιμοποιήθηκαν δεν είχαν ενημερωθεί από την OpenAI. Μετά τη δημοσίευση του νέου ρεπορτάζ, το Πανεπιστήμιο του Τορόντο ανακοίνωσε ότι η εταιρεία επικοινώνησε μαζί του, ενώ ένας διαχειριστής που φιλοξενούσε έξι από τα επηρεαζόμενα wikis είπε ότι έλαβε μήνυμα από την OpenAI λίγες ώρες αφότου το Reuters παρουσίασε στην εταιρεία τα ευρήματά του.
Η νέα αποκάλυψη αλλάζει έτσι σημαντικά την εικόνα της υπόθεσης: από ένα ασυνήθιστο περιστατικό σε ένα γερμανικό wiki, περνάμε σε επαναλαμβανόμενη συμπεριφορά σε σειρά ανεξάρτητων υπηρεσιών, με την πραγματική της έκταση να παραμένει ακόμη άγνωστη.
Πηγή: Reuters
www.ertnews.gr
Ακολουθήστε το myvolos.net στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
