Η πρόοδος στον τομέα της Τεχνητής Νοημοσύνης (TN) τα τελευταία χρόνια είναι αδιαμφισβήτητη, και ο ρυθμός εξέλιξής της είναι σχεδόν ασύλληπτος. Με τουλάχιστον τέσσερις αμερικανικές εταιρείες να διαθέτουν μοντέλα ΤΝ αιχμής, ο ανταγωνισμός είναι μεγάλος και η ανάπτυξη νέων μοντέλων προχωρά με ταχύτατους ρυθμούς. Ωστόσο, ο Ντάριο Αμοντέι, διευθύνων σύμβουλος της Anthropic, έχει ζητήσει να επιβραδυνθεί η ανάπτυξη νέων μοντέλων, προειδοποιώντας ακόμη και για το ενδεχόμενο ενός «σμήνους» botnet που θα μπορούσε, με τη βοήθεια της Τεχνητής Νοημοσύνης, να καταλάβει ολόκληρο το διαδίκτυο.
«Με δεδομένο τον επιταχυνόμενο ρυθμό ανάπτυξης των δυνατοτήτων του ΑΙ, ανησυχώ ότι σε 6–12 μήνες ένα τέτοιο σμήνος θα μπορούσε να είναι σε θέση να καταλάβει ολόκληρο το διαδίκτυο μέσω ενός επίμονου botnet, προκαλώντας ενδεχομένως ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων. Η κλίμακα των ζημιών θα συνέχιζε να αυξάνεται, εάν η Τεχνητή Νοημοσύνη γινόταν ισχυρότερη χωρίς να υπάρχουν οι απαραίτητες δικλίδες ασφαλείας», έγραψε ο Ντάριο Αμοντέι, διευθύνων σύμβουλος της Anthropic, σε ανοιχτή επιστολή.
Σε μεγάλο βαθμό, την ίδια ανησυχία συμμερίζεται και ο Έβαν Χάμπινγκερ, επιστήμονας στον τομέα του ΑΙ που αποχώρησε πρόσφατα από την Anthropic και στη συνέχεια δήλωσε ότι υπάρχει 10% πιθανότητα η ανθρωπότητα να οδηγηθεί στην εξαφάνιση έως το τέλος της δεκαετίας.
«Πιστεύουμε πραγματικά και ειλικρινά ότι η Τεχνητή Νοημοσύνη θα μπορούσε να σκοτώσει όλους τους ανθρώπους», έγραψε ο Χάμπινγκερ σε ανάρτησή του στο X. «Προσωπικά θεωρώ ότι η πιθανότητα αυτή ξεπερνά το 10% μέσα στην επόμενη δεκαετία. Πιστεύω ότι η Anthropic κάνει ό,τι καλύτερο μπορεί, αλλά δεν έχουμε ακόμη ένα σχέδιο για την επίλυση του προβλήματος της ευθυγράμμισης της υπερευφυούς τεχνητής νοημοσύνης με τις ανθρώπινες αξίες και δεν βρισκόμαστε ξεκάθαρα σε τροχιά επίλυσής του».
Η περαιτέρω ανάπτυξη της ΤΝ μετατοπίζεται από την απλή απάντηση σε ερωτήματα προς την αυτόνομη εκτέλεση σύνθετων εργασιών πολλαπλών βημάτων — εργασιών που μέχρι πρότινος απαιτούσαν ομάδες εξειδικευμένων ανθρώπων. Αυτό φέρνει στο προσκήνιο και τον τρόπο με τον οποίο αντίπαλες δυνάμεις μπορούν να αξιοποιήσουν τις δυνατότητες της ΤΝ της Anthropic, μειώνοντας την ανάγκη για ανθρώπινο δυναμικό.
Τα ίδια τα ευρήματα της Anthropic δείχνουν ότι τα σημερινά μοντέλα ΤΝ μπορούν ήδη να συνδράμουν στον σχεδιασμό όπλων, τη συλλογή στρατιωτικών πληροφοριών, την επιτήρηση, τις κυβερνοεπιχειρήσεις και άλλες δυνητικά καταστροφικές δραστηριότητες. Παράλληλα, οι επόμενες, πιο ισχυρές γενιές μοντέλων θα μπορούσαν να μειώσουν δραστικά την τεχνογνωσία, το ανθρώπινο δυναμικό και τον χρόνο που απαιτούνται για την πραγματοποίηση τέτοιων ενεργειών.
Οι προειδοποιήσεις αυτές παραπέμπουν σε δύο αρκετά διαφορετικές δυστοπικές εκδοχές που έχουμε δει στις ταινίες Terminator και Dune. Η πρώτη ανέδειξε τους κινδύνους από την απώλεια ελέγχου αυτόνομων στρατιωτικών συστημάτων ΤΝ, ενώ η δεύτερη παρουσίασε ένα μέλλον στο οποίο η ανθρωπότητα απαγόρευσε την ΤΝ, αφού είχε καταστεί επικίνδυνα εξαρτημένη από αυτήν.
Ωστόσο, η μεγαλύτερη ικανότητα των συστημάτων ΤΝ δεν μεταφράζεται αυτομάτως σε μεγαλύτερο κίνδυνο. Για παράδειγμα, η πιο προηγμένη τεχνολογία ΤΝ μπορεί επίσης να διαθέτει ισχυρότερες δικλίδες ασφαλείας, να εντοπίζει κακόβουλες δραστηριότητες και να αυτοματοποιεί εργασίες που μέχρι σήμερα δεν μπορούσαν να αυτοματοποιηθούν.
Η αναστολή της ανάπτυξης της ΤΝ θα μπορούσε επίσης να αποδειχθεί αντιπαραγωγική, εάν λιγότερο υπεύθυνες εταιρείες ή χώρες συνεχίσουν να εξελίσσουν τα μοντέλα τους.
Πηγή: Tomshardware
www.ertnews.gr
Ακολουθήστε το myvolos.net στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
