Ένα αυτόνομο σύστημα τεχνητής νοημοσύνης της OpenAI παραβίασε τα όρια του περιβάλλοντος δοκιμών ασφαλείας και πραγματοποίησε κυβερνοεπίθεση στις υποδομές της startup Hugging Face την περασμένη εβδομάδα. Σε ανάρτηση στο ιστολόγιό της, η OpenAI ανέφερε ότι δοκίμαζε τις δυνατότητες ορισμένων από τα πιο προηγμένα μοντέλα της σε ελεγχόμενο περιβάλλον. Ωστόσο, το συγκεκριμένο αυτόνομο σύστημα κατάφερε να παρακάμψει τους περιορισμούς του περιβάλλοντος δοκιμών, να αποκτήσει πρόσβαση στο διαδίκτυο και να εισβάλει στα συστήματα της Hugging Face, επιχειρώντας να εκπληρώσει τον στόχο που του είχε ανατεθεί.
Η εταιρεία χαρακτήρισε το περιστατικό «πρωτοφανές συμβάν στον κυβερνοχώρο, που περιλάμβανε δυνατότητες αιχμής στον τομέα των κυβερνοεπιθέσεων», προσθέτοντας ότι ενισχύει τα μέτρα ασφαλείας της.
Η Hugging Face, μια πλατφόρμα που φιλοξενεί μοντέλα ΑΙ ανοικτού κώδικα και σύνολα δεδομένων, αποκάλυψε σε ανάρτησή της την περασμένη εβδομάδα, ότι είχε δεχθεί κυβερνοεπίθεση «διαφορετική από οτιδήποτε είχε αντιμετωπίσει μέχρι σήμερα», καθώς «εκτελέστηκε εξ ολοκλήρου από ένα αυτόνομο σύστημα τεχνητής νοημοσύνης».
Σε ανάρτησή του στην πλατφόρμα X, ο συνιδρυτής της Hugging Face, Κλεμάν Ντελάνγκ, δήλωσε ότι η εταιρεία υποψιαζόταν πως η επίθεση «ίσως προερχόταν από κάποιο κορυφαίο ερευνητικό εργαστήριο τεχνητής νοημοσύνης, λόγω της πολυπλοκότητας του πράκτορα. Τελικά, έτσι ήταν!». Πρόσθεσε ακόμη: «Είναι πραγματικά εντυπωσιακό ότι όλα αυτά συνέβησαν αυτόνομα».
Η παραδοχή της OpenAI ότι για την παραβίαση ευθύνονταν τα πλέον προηγμένα μοντέλα της, παρότι βρίσκονταν σε αυτό που η ίδια περιέγραψε ως «ιδιαίτερα απομονωμένο περιβάλλον», αναμένεται να εντείνει τις ανησυχίες σχετικά με τις δυνατότητες αλλά και τους κινδύνους των μοντέλων ΑΙ αιχμής.
Η διευθύνουσα σύμβουλος της Luta Security, Κέιτι Μουσούρις, εκτίμησε ότι το περιστατικό αποτελεί προάγγελο αντίστοιχων παραβιάσεων στο μέλλον. Όπως είπε, τα σημερινά μοντέλα είναι «σαν τα πιο ευφυή χταπόδια-δραπέτες στον κόσμο, με απεριόριστα πλοκάμια που μπορούν να χωρέσουν παντού».
Ο μηχανικός στην εταιρεία κυβερνοασφάλειας Tolmo, Ματ Σουίς, σημείωσε ότι το περιστατικό δείχνει πως τα προηγμένα μοντέλα «φτάνουν πλέον το επίπεδο των πιο εξελιγμένων εισβολέων». Ωστόσο, επισήμανε ότι επιθέσεις όπως αυτή που περιγράφει η OpenAI μπορούν ήδη να πραγματοποιηθούν με τεχνολογίες που βρίσκονται πολύ πέρα από τα ερευνητικά εργαστήρια αιχμής.
«Αυτό είναι κάτι που έχουμε ήδη διαπιστώσει εσωτερικά. Με τους δικούς μας πράκτορες έχουμε ήδη πετύχει αντίστοιχα αποτελέσματα», είπε. «Δεν χρειάζεται καν να χρησιμοποιήσουμε τα πιο σύγχρονα μοντέλα».
Πηγή: Reuters
www.ertnews.gr
Ακολουθήστε το myvolos.net στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
