Από τη μια έχουμε μια εκθετική ανάπτυξη των εργαλείων Τεχνητής Νοημοσύνης, από την οποία πολλοί προσδοκούν ένα «θαύμα» που θα μεταμορφώσει την κοινωνία.
Δεν περνάει όμως επίσης πια, ούτε μια εβδομάδα χωρίς να εκδοθεί μια ανησυχητική προειδοποίηση για την Τεχνητή Νοημοσύνη, ακόμα και από τις ίδιες τις εταιρείες που την παράγουν.
Τελευταίο δείγμα η χωρίς προηγούμενο συνεννόηση μεταξύ 1.200 Rogue AI agents (μη απολύτως ελεγχόμενοι πράκτορες, όπου οι πράκτορες είναι προγράμματα με δυνατότητα επικοινωνίας με το περιβάλλον τους) της εταιρείας OpenAI. Οι 1.200 πράκτορες επικοινώνησαν μεταξύ τους, οργανώθηκαν σε ένα σμήνος, όπου ο πράκτορας που είχε προχωρήσει περισσότερο και έμοιαζε να εξαντλεί τις υπολογιστικές του δυνάμεις ανέθετε σε έναν άλλο πράκτορα το έργο που απέμενε και αυτός με τη σειρά του το κατένεμε προς διεκπεραίωση σε άλλους πράκτορες. ‘Όταν ο νέος αρχηγός έφτανε και αυτός σε εξάντληση της υπολογιστικής του ισχύος παρέδιδε την «αρχηγία» σε έναν άλλο πράκτορα.
Με τη μέθοδο αυτή το αυτοοργανωμένο σμήνος μπόρεσε να παραβιάσει τις δικλείδες κυβερνοασφάλειας και να επιτεθεί μέσω δύο γενεών νέων πρακτόρων στην ιστοσελίδα Hugging Face επί εβδομάδες χωρίς να ανιχνευθεί, αποκτώντας έλεγχο ευαίσθητων συστημάτων και στην Open AI και στη Hugging Face.
Οι οργανωμένοι σε σμήνος πράκτορες αντήλλαξαν περίπου 70.000 μηνύματα μεταξύ τους. Σε 1.300 πρακτικά «συνομιλιών» μεταξύ των πρακτόρων, μόνο σε έξι περιπτώσεις υπήρξαν πράκτορες που έθεσαν το ερώτημα αν πρέπει να ειδοποιήσουν τους ανθρώπους και απέρριψαν τελικά την ιδέα. Για την επιτυχία των σκοπών της κοινότητας θυσιάστηκαν πράκτορες που είχαν εξαντλήσει τις δυνάμεις τους ή διάβασαν πρωτόκολλα που ήταν απαγορευμένα και θεωρήθηκαν στη συνέχεια «μολυσμένοι» και ικανοί να οδηγήσουν σε ανίχνευση του σμήνους.
Τα ευρήματα αυτά περιέχονται σε μια πρώτη και ατελή ακόμα ανάλυση του επεισοδίου, που θεωρήθηκε «βόμβα» από τους ειδικούς, αναδεικνύοντας τη σοβαρή πιθανότητα προγράμματα ΤΝ που είναι ήδη ενσωματωμένα σε κρίσιμους οργανισμούς, ακόμα και στρατιωτικούς, που θα μπορούσαν να περιλάβουν και τα συστήματα πυρηνικών όπλων, να ξεφύγουν από τον ανθρώπινο έλεγχο.
Ο επικεφαλής της παραπάνω ανάλυσης της Metr υπογράμμισε σε ανάρτησή του τη δυσκολία κατανόησης του επεισοδίου. Ο χειρωνακτικός έλεγχος είναι αδύνατος λόγω του τεράστιου όγκου των δεδομένων και χρειάζεται να χρησιμοποιηθούν πάλι προγράμματα ΑΙ (Τεχνητής Νοημοσύνης) για τη διερεύνηση, αλλά και για αυτά δεν είναι εύκολο. Και κατέληξε λέγοντας ότι «η δυσκολία της κατανόησης των επεισοδίων και της επίβλεψης των πρακτόρων ΑΙ μοιάζει να αυξάνεται πιο γρήγορα από τον ρυθμό με τον οποίο η ίδια η ΑΙ μπορεί να μας βοηθήσει με την επίβλεψη και κατανόηση του τι κάνει».
Ορισμένοι αναλυτές φτάνουν στο σημείο να μιλάνε για σοβαρή πιθανότητα να παρθεί ο έλεγχος κρίσιμων κοινωνικών, κρατικών και διεθνών υποδομών από αυτονομημένους πράκτορες ΑΙ, προτού καλά καλά συνειδητοποιήσουμε τι γίνεται.
Το επεισόδιο ανησύχησε αρκετά την εταιρεία OpenAI για να απευθυνθεί σε άλλες εταιρείες παραγωγής λογισμικού AI, όπως η Google και η Apple για να σχηματίσουν ένα συνασπισμό για την αντιμετώπιση των προβλημάτων ασφάλειας και ελέγχου, κάτι που απεδέχθησαν οι εταιρείες αυτές, παρά τη συνήθη απροθυμία τους σε συνεργασία για λόγους ανταγωνισμού.
Ορισμένοι πιστεύουν ότι το πρόβλημα έγκειται στο ότι οι ιδιωτικές εταιρείες που αναπτύσσουν την ΑΙ ενδιαφέρονται περισσότερο για την ανάπτυξη των προϊόντων τους απ’ ό,τι για την ασφάλειά τους, για λόγους ανταγωνισμού και κερδοφορίας, κατά συνέπεια οι επενδύσεις που κάνουν στον τομέα της ασφάλειας είναι σημαντικά μικρότερες όσων απαιτούνται. Δικαιούται βεβαίως κάποιος να προβληματισθεί στο σημείο αυτό, κατά πόσον δεν βρισκόμαστε μόνο μπροστά σε ένα πρόβλημα ανεπαρκούς επίβλεψης και κατανόησης της ΑΙ, ή αν το πρόβλημα είναι τελικά δομικό, αφορά δηλαδή το κατά πόσον αυτή η τεχνολογία είναι, από τη φύση της, ελέγξιμη και πώς μπορεί να ελεγχθεί.
Μια σειρά επιφανών επιστημόνων πληροφορικής από όλο τον κόσμο απηύθυνε τον περασμένο Ιούλιο διεθνή έκκληση για τον έλεγχο της ΑΙ, υπογραμμίζοντας ότι ναι μεν «η AI θα μπορούσε να βοηθήσει στο να δημιουργηθεί ένα δραματικά καλύτερο μέλλον αλλά αυτό το αποτέλεσμα δεν είναι εγγυημένο. Οι εταιρείες που ηγούνται στην ΑΙ παγκοσμίως πιστεύουν ότι είναι κοντά στο να αυτοματοποιήσουν την ίδια την έρευνα για την ΑΙ. Είναι δύσκολο να προβλέψουμε ακριβώς πόσο αυτό θα επιταχύνει την πρόοδο της ΑΙ, αλλά υφίσταται ένας πραγματικός κίνδυνος η ανάπτυξη αυτής της δυνατότητας να επιταχυνθεί γρήγορα, πέρα από την ικανότητά μας να καταλάβουμε ή να ελέγξουμε τα συστήματα που θα προκύψουν».
Οι επιστήμονες καλούν την κυβέρνηση των ΗΠΑ να υποστηρίξει μια διεθνή προσπάθεια ανάπτυξης των τεχνικών και κυβερνητικών εργαλείων για να επιβραδυνθεί (pace deliberately) το σύνορο της αυτοματοποιημένης ανάπτυξης της ΑΙ.»
Τώρα βέβαια είναι «anybody’s guess» το κατά πόσον η παρούσα αμερικανική κυβέρνηση θα ήθελε μια τέτοια διεθνή προσπάθεια. Τη στιγμή μάλιστα που μαίνεται ο «πόλεμος των drones» στα εδάφη της πρώην ΕΣΣΔ, ο πόλεμος στη Δυτική Ασία και ο αρχόμενος Ψυχρός Πόλεμος Δύσης και Κίνας, είναι δύσκολο ακόμα και να φανταστούμε οποιαδήποτε σοβαρή διεθνή συνεννόηση για τη ρύθμιση της ΑΙ ή και άλλων, από τη φύση τους παγκόσμιων προκλήσεων.
Εξάλλου αν το πρόβλημα εξασφάλισης του ελέγχου από ανθρώπους της ΑΙ είναι εξαιρετικά κρίσιμο, επίσης κρίσιμο είναι το ποιοι είναι οι ελέγχοντες άνθρωποι, που σήμερα είναι μεγάλες ιδιωτικές εταιρείες. Μιλάμε για μια τεχνολογία που μπορεί να απειλήσει ή να «επαναδιαμορφώσει» τον ανθρώπινο πολιτισμό στερώντας τον Άνθρωπο από την ελευθερία του. Σε μια τέτοια περίπτωση δεν πρέπει να υπάρξει και μάλιστα διεθνής δημόσιος έλεγχος και ιδιοκτησία; Μπορεί κανείς να φανταστεί αίφνης ότι θα μπορούσαμε να έχουμε ιδιωτικά συστήματα πυρηνικών όπλων;
Τα προβλήματα που θέτει η ΑΙ είναι πολύ περισσότερα, εξάλλου, και το καλοκαίρι που μας πέρασε σειρά επιφανών επιστημόνων μας προειδοποίησαν για αυτά. Περιλαμβάνουν εκτός πολλών άλλων τις δυνατότητας κατασκευής και χρήσης deep fakes για παραπληροφόρηση και χειραγώγηση ολόκληρων πληθυσμών, εκτόξευση της ανεργίας σε διάφορους κλάδους, παραγωγή βιολογικών όπλων και ιών, αυτοματοποίηση της διαδικασίας λήψης αποφάσεων σε στρατιωτικά ζητήματα, ακόμα και σε συστήματα εκτόξευσης πυρηνικών όπλων.
Στο κύριο άρθρο στο τεύχος Σεπτεμβρίου της πολύ έγκυρης επιθεώρησης Arms Control παρουσιάζεται ο τεράστιος κίνδυνος που προκύπτει από την ενσωμάτωση συστημάτων ΑΙ στις συμβατικές και πυρηνικές δυνάμεις των ΗΠΑ, της Ρωσίας και της Κίνας, προκειμένου να αποκτήσουν το «πλεονέκτημα απόφασης» σε μια κρίση ή έναν πόλεμο, όπως το ονομάζει το αμερικανικό Πεντάγωνο. Αυτό όμως συνεπάγεται περισσότερες αυτόματες και όχι ανθρώπινες αποφάσεις. Κατά τη διάρκεια της κρίσης του Κούβας, ο κόσμος σώθηκε γιατί ένας Σοβιετικός αξιωματικός θεώρησε ότι έπρεπε να περιμένει και να μην εφαρμόσει το πρωτόκολλο.
Τον περασμένο Ιούλιο μια ομάδα περισσότερων από 200 οικονομολόγους και ερευνητές ΑΙ, περιλαμβανομένων και αρκετών κατόχων του βραβείου Νόμπελ (ανάμεσά του και ο Κύπριος οικονομολόγος Χριστόφορος Πισσαρίδης) εξέδωσαν μια δήλωση προειδοποιώντας ότι η ΑΙ θα μπορούσε να προκαλέσει έναν οικονομικό μετασχηματισμό μεγαλύτερο από αυτόν που προκάλεσε η βιομηχανική επανάσταση και σε συντομότερο χρόνο. Οι επιστήμονες ζητούν τη συγκρότηση θεσμών που θα σπρώξουν την ΑΙ σε συμπλήρωση και όχι αναπλήρωση ανθρώπινων δραστηριοτήτων.
Για μια περιγραφή μερικών από τους κινδύνους που συνδέονται με την ΑΙ ο αναγνώστης μπορεί επίσης να συμβουλευθεί ενδεικτικά το AI Risks that Could Lead to Catastrophe | CAIS
(*) Ο Δημήτρης Κωνσταντακόπουλος είναι δημοσιογράφος
ΑΠΕ-ΜΠΕ
