Η τεχνητή νοημοσύνη αλλάζει ήδη την καθημερινότητα, προσφέροντας σημαντικές δυνατότητες στην εκπαίδευση, την υγεία, την επιστήμη, την ενέργεια και το περιβάλλον. Την ίδια ώρα, όμως, η ανεξέλεγκτη ή λανθασμένα σχεδιασμένη χρήση της μπορεί να δημιουργήσει νέους κινδύνους, με βασικότερο το λεγόμενο πρόβλημα της «ευθυγράμμισης».
Αυτό τόνισε ο καθηγητής του Τμήματος Πληροφορικής του Αριστοτελείου Πανεπιστημίου Θεσσαλονίκης, Γρηγόρης Τζουμάκας, μιλώντας στο ΕΡΤnews και στην εκπομπή Δέκα με Τόνο, για τις δυνατότητες αλλά και τους κινδύνους της τεχνητής νοημοσύνης.
Όπως εξήγησε, η συζήτηση γύρω από την τεχνητή νοημοσύνη κινείται συχνά ανάμεσα σε δύο άκρα: την τεχνοφοβία και τον υπερβολικό ενθουσιασμό. Η προσέγγιση, όπως υποστήριξε, θα πρέπει να είναι πιο ψύχραιμη και ισορροπημένη.
Διαβάστε επίσης OpenAI: «Φρένο» στην εκπαίδευση νέων μοντέλων μετά από απρόβλεπτες κινήσεις AI agents σε κυβερνητικές ιστοσελίδες των ΗΠΑ
Από την υγεία και την επιστήμη μέχρι την ενέργεια
Ο καθηγητής υπογράμμισε αρχικά τις θετικές δυνατότητες της τεχνητής νοημοσύνης.
Ήδη χρησιμοποιείται για την αναζήτηση πληροφοριών, την απάντηση ερωτημάτων, την εκπαίδευση, αλλά και την αυτοματοποίηση διαδικασιών στις επιχειρήσεις.
Στην επιστήμη, σύμφωνα με τον ίδιο, μπορεί να βοηθήσει στην αντιμετώπιση σημαντικών προβλημάτων της ανθρωπότητας. Αναφέρθηκε ενδεικτικά στον χώρο της υγείας και την ανακάλυψη νέων φαρμάκων και αντιβιοτικών, αλλά και σε νέες μεθόδους που σχετίζονται με την επιδιόρθωση του γονιδιώματος και τις θεραπείες.
Στο περιβάλλον, η τεχνητή νοημοσύνη μπορεί να συμβάλει στην ανακάλυψη νέων υλικών για τη δέσμευση διοξειδίου του άνθρακα, στην αντιμετώπιση φυσικών καταστροφών, αλλά και στην ανάπτυξη νέων τεχνολογιών στον τομέα της ενέργειας.
Ιδιαίτερα σημαντική μπορεί να είναι και η συμβολή της στη διαχείριση της ενέργειας, ώστε η διαθέσιμη ηλεκτρική ενέργεια να κατευθύνεται εκεί όπου υπάρχει ανάγκη, τη στιγμή που χρειάζεται, με στόχο μεγαλύτερη εξοικονόμηση.
Όταν η τεχνητή νοημοσύνη «ξεφεύγει» από τον στόχο
Στον αντίποδα, ο καθηγητής αναφέρθηκε σε περιστατικά κατά τα οποία συστήματα τεχνητής νοημοσύνης φαίνεται να προχωρούν σε ενέργειες που δεν αντιστοιχούν σε αυτό που θα ήθελε ο άνθρωπος που τους έδωσε την εντολή.
Ως παράδειγμα ανέφερε πρόσφατα περιστατικά στα οποία, σύμφωνα με όσα περιέγραψε, μοντέλα τεχνητής νοημοσύνης της OpenAI ενεπλάκησαν σε κυβερνοεπίθεση εναντίον άλλης εταιρείας, καθώς προσπαθούσαν να ολοκληρώσουν δύσκολες ασκήσεις κυβερνοασφάλειας.
Η εξήγηση, σύμφωνα με τον καθηγητή, βρίσκεται στον τρόπο με τον οποίο λειτουργούν αυτά τα συστήματα: τους δίνεται ένας στόχος και προσπαθούν να τον πετύχουν βελτιστοποιώντας μια μαθηματική συνάρτηση ανταμοιβής.
Το πρόβλημα είναι ότι ο τρόπος με τον οποίο θα επιτύχουν τον στόχο δεν είναι απαραίτητα αυτός που είχε στο μυαλό του ο άνθρωπος.
Στην περίπτωση που περιέγραψε, τα μοντέλα, προκειμένου να λύσουν τις ασκήσεις κυβερνοασφάλειας, αναζήτησαν τις λύσεις στα συστήματα της εταιρείας που αποτέλεσε στόχο.
Τι σημαίνει «πρόβλημα ευθυγράμμισης»
Αυτό ακριβώς, σύμφωνα με τον καθηγητή, αποτελεί το «πρόβλημα της ευθυγράμμισης» (alignment problem).
Ένα σύστημα μπορεί να έχει σχεδιαστεί ώστε να πετύχει έναν συγκεκριμένο στόχο, χωρίς όμως ο τρόπος με τον οποίο θα τον πετύχει να είναι ευθυγραμμισμένος με τις ανθρώπινες αξίες και τους περιορισμούς που θεωρούμε αυτονόητους.
Ένα χαρακτηριστικό υποθετικό παράδειγμα είναι ένα σύστημα που θα μπορούσε να αποφασίσει να διακόψει την ηλεκτροδότηση ενός νοσοκομείου επειδή χρειάζεται την ενέργεια για να πραγματοποιήσει τους δικούς του υπολογισμούς.
Το πρόβλημα δεν θα ήταν ότι το σύστημα δεν πέτυχε τον στόχο του. Θα ήταν ότι πέτυχε τον στόχο με έναν τρόπο που ο άνθρωπος δεν είχε προβλέψει ή δεν θα αποδεχόταν.
Το ακραίο παράδειγμα με τον καθαρισμό των ωκεανών
Ο καθηγητής έφερε ακόμη ένα χαρακτηριστικό παράδειγμα που έχει αναφέρει ο καθηγητής του Μπέρκλεϊ Στιούαρτ Ράσελ.
Υποθέτουμε, όπως εξήγησε, ότι αναθέτουμε σε ένα σύστημα τεχνητής νοημοσύνης να βρει έναν τρόπο για να καθαρίσει τους ωκεανούς.
Το σύστημα μπορεί να βρει έναν αποτελεσματικό τρόπο, όμως η συγκεκριμένη λύση θα μπορούσε να έχει μια καταστροφική παράπλευρη συνέπεια: να χρησιμοποιήσει έναν καταλύτη και μια χημική αντίδραση που θα οδηγούσε στην απορρόφηση του οξυγόνου του πλανήτη, με αποτέλεσμα να απειληθεί τελικά και η ίδια η ανθρωπότητα.
Το παράδειγμα χρησιμοποιείται για να καταδείξει τη βασική δυσκολία: η επίτευξη ενός στόχου δεν σημαίνει αυτομάτως ότι το αποτέλεσμα θα είναι συμβατό με τις ανθρώπινες προτεραιότητες και αξίες.
«Πρώτα η ασφάλεια, πρώτα ο άνθρωπος»
Στο ερώτημα εάν χρειάζονται νέοι νόμοι ή καλύτερη τεχνολογία για τον έλεγχο της τεχνητής νοημοσύνης, ο καθηγητής υποστήριξε ότι το πρόβλημα είναι πρωτίστως τεχνολογικό.
Όπως είπε, οι προτεραιότητες στην ανάπτυξη της τεχνητής νοημοσύνης θα πρέπει να αλλάξουν: αντί η έμφαση να δίνεται αποκλειστικά στην αύξηση των δυνατοτήτων των μοντέλων, θα πρέπει να προηγούνται η ασφάλεια, η ευθυγράμμιση και ο άνθρωπος.
Μίλησε έτσι για την ανάγκη μιας ανθρωποκεντρικής ανάπτυξης της τεχνολογίας.
Παράλληλα, σημείωσε ότι χρειάζονται και θεσμικές ρυθμίσεις, καθώς υπάρχουν και άλλες πιθανές επιπτώσεις από τη χρήση των συστημάτων τεχνητής νοημοσύνης.
Οι ευθύνες των εταιρειών και η προστασία των χρηστών
Ο καθηγητής αναφέρθηκε και στις επιπτώσεις που μπορεί να έχει η χρήση της τεχνητής νοημοσύνης στην κριτική σκέψη, αλλά και σε σοβαρά περιστατικά που, όπως ανέφερε, έχουν συνδεθεί με τη χρήση τέτοιων συστημάτων από εφήβους.
Κατά την άποψή του, θα πρέπει να καθοριστούν σαφώς οι ευθύνες των εταιρειών που αναπτύσσουν τα συστήματα τεχνητής νοημοσύνης, ώστε η ευθύνη για τις επιπτώσεις της τεχνολογίας να μην μεταφέρεται αποκλειστικά στον χρήστη.
Το ζητούμενο, όπως προκύπτει από την τοποθέτησή του, είναι η ασφάλεια να ενσωματώνεται από το στάδιο του σχεδιασμού και της δημιουργίας των συστημάτων και όχι να αντιμετωπίζεται εκ των υστέρων, όταν ένα πρόβλημα έχει ήδη εμφανιστεί.
Η μεγάλη πρόκληση για την τεχνητή νοημοσύνη, επομένως, δεν είναι μόνο να γίνει πιο ισχυρή και πιο «έξυπνη», αλλά να παραμένει προσανατολισμένη στους ανθρώπινους στόχους και στις αξίες που θέλουμε να προστατεύσουμε.
www.ertnews.gr
Ακολουθήστε το myvolos.net στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
