Όταν, τον 16ο αιώνα, ο Νικολό Μακιαβέλι κατέληγε στο συμπέρασμα ότι θα ήταν ασφαλέστερο για έναν ηγεμόνα να τον φοβούνται από ό,τι να τον αγαπούν, σίγουρα δεν μπορούσε να φανταστεί ότι κάποιους αιώνες αργότερα μια τεχνολογική οντότητα, η Τεχνητή Νοημοσύνη (ΤΝ), θα είχε εκπαιδευτεί χωρίς την άδειά του πάνω στα γραπτά του, όπως και σε εκείνα αναρίθμητων άλλων ηγετών, διπλωματών, φιλοσόφων, στρατηγών, επιστημόνων και συγγραφέων.
Αρκεί όμως η εκπαίδευση πάνω σε τέτοια κείμενα, για να μπορέσει η ΤΝ να χαράξει περίπλοκες στρατηγικές, που μια μέρα θα της επέτρεπαν να λειτουργήσει σαν εξαίρετη στρατηγός ή εμπνευσμένη ηγεμόνας;
Με αφορμή και πρόσφατη συνέντευξη του Κωνσταντίνου Δασκαλάκη στο ΑΠΕ-ΜΠΕ, στην οποία ο καθηγητής του ΜΙΤ ανέφερε ότι τα μοντέλα ΤΝ έχουν εκπαιδευτεί μεταξύ άλλων στα έργα του Σουν Τζου, του Θουκυδίδη και του Μακιαβέλι, θέσαμε τον παραπάνω προβληματισμό στον Βίνσεντ Μύλλερ (Vincent C. Müller), καθηγητή Φιλοσοφίας και Ηθικής της ΤΝ στο Universität Erlangen-Nürnberg (FAU) και ιδρυτή του ερευνητικού ινστιτούτου Κέντρο για τη Φιλοσοφία και την Έρευνα πάνω στην ΤΝ (PAIR, www.pair.fau.de), με έδρα το Ερλάνγκεν. Η συζήτηση του ΑΠΕ-ΜΠΕ με τον κ. Μύλλερ, που βρισκόταν στην Κίνα για σειρά διαλέξεων σε κινεζικά πανεπιστήμια, έγινε στην ελληνική γλώσσα, καθώς ο Γερμανός καθηγητής έζησε στην Ελλάδα μεταξύ 1998 και 2019 και παρότι δεν έκανε σπουδές ελληνικών, τα μιλάει με μεγάλη άνεση και σχεδόν χωρίς προφορά.
Δεν αρκεί να έχεις την καλύτερη συνταγή, για να γίνεις ο καλύτερος ηγεμόνας
Τα μοντέλα ΤΝ δεν έχουν μεν συνείδηση, αλλά κατά το στάδιο της εκπαίδευσής τους έχουν τροφοδοτηθεί με όλον τον πλούτο της ανθρώπινης γνώσης. Θα μπορούσαμε να πούμε ότι έχοντας όλη αυτή τη γνώση, η ΤΝ θα μπορούσε ν’ αναπτύξει περίπλοκες στρατηγικές, αν αφεθεί ελεύθερη; «Είναι μια αρκετά δύσκολη ερώτηση. Καταρχήν τι σημαίνει περίπλοκο; Π.χ., ένας άνθρωπος θα μπορούσε να παίζει σκάκι και να έχει την αίσθηση ότι κερδίζει, αλλά ο αντίπαλος να “βλέπει” 15 βήματα μπροστά και να ξέρει ότι σύντομα θα τον έχει “τελειώσει”. Με αυτή την έννοια, ένα μηχάνημα μπορεί να έχει ένα περίπλοκο σχέδιο, γιατί μπορεί να υπολογίσει τα επόμενα βήματα σε μια σκακιέρα. Αν υποθέσουμε όμως πως κάποιος έχει διαβάσει Μακιαβέλι και θέλει να εφαρμόσει όσα γράφει, τότε δεν μιλάμε απλά για τις επόμενες κινήσεις στο σκάκι, αλλά για αφηρημένες έννοιες», λέει.
Όπως εξηγεί, όταν μιλάς σε αφηρημένο επίπεδο και ακόμη και αν υποθέσουμε ότι κατέχεις τη συνταγή για τον τέλειο ηγεμόνα, δεν αρκεί να προβλέψεις λέξεις και πιθανότητες για να καταλήξεις σε μια στρατηγική. Πρέπει να είσαι σε θέση να προεκτείνεις τη σκέψη σου, να αντιληφθείς τι μπορεί να εφαρμοστεί στη δική σου περίπτωση και τι όχι, πώς διαφέρουν οι συνθήκες της εποχής κτλ. Στα δεδομένα με τα οποία εκπαιδεύεται η ΤΝ υπάρχουν μεν ανθρώπινες γνώσεις πάρα πολύ εφαρμοσμένες, αλλά και πολλές που είναι σε εντελώς αφηρημένο επίπεδο. Στην ΤΝ υπάρχει μια βασική αδυναμία: «αν ρωτήσω αυτά τα συστήματα για κάποιες στρατηγικές ή φιλοσοφικά ζητήματα, αυτό που απαντήσουν θα είναι πάντα το συνηθισμένο. Δεν θα είναι κάτι καινούργιο, πρωτότυπο, μοναδικό, που δεν έχει επαναληφθεί, γιατί για να επιτευχθεί κάτι τέτοιο, χρειάζεται ατομική ταυτότητα» επισημαίνει.
Η ΤΝ ως συν-γραφέας και αξιολογητής της ακαδημαϊκής εργασίας
Αυτή η έλλειψη πρωτοτυπίας της ΤΝ αρχίζει ήδη να έχει αντίκτυπο στην ακαδημαϊκή ζωή, λέει ο κ. Μύλλερ: «Συνεκδίδω το επιστημονικό περιοδικό “Philosophy of AI” και ένα σημαντικό πρόβλημα που υπάρχει είναι ότι πολλά κείμενα που κατατίθενται από ερευνητές ή ακαδημαϊκούς δημιουργούνται σε σημαντικό βαθμό με ΤΝ. Στη συνέχεια, η αξιολόγηση των υποβολών γίνεται από ακαδημαϊκούς με τη χρήση και πάλι ΤΝ (παρότι αυτό απαγορεύεται) και έπειτα αυτά τα κείμενα που έχουν παραχθεί με ΤΝ θα ξαναδιαβαστούν ως πηγή από την ΤΝ. Το αποτέλεσμα είναι πως έχουμε απίστευτη αύξηση υποβολών στο περιοδικό, για εργασίες που κάποτε ήθελαν μήνες σοβαρής δουλειάς. Αν διαβάσεις προσεκτικά πολλές από τις εργασίες, θα δεις πως υπάρχουν κοινοτοπίες. Επιφανειακά το άρθρο φαίνεται τέλειο, η δομή, η βιβλιογραφία, όλα. Το περιεχόμενο όμως χωλαίνει» προειδοποιεί ο κ. Μύλλερ.
Είναι μήπως ήδη απρόβλεπτη και ανεξέλεγκτη η ΤΝ; Το πανεπιστήμιο των κλεφτών
Στα περιστατικά της Hugging Face, του χτυπήματος σε αυστραλιανό κυβερνητικό πόρταλ και της DseWiki στη Γερμανία, οι πράκτορες ΤΝ ανέπτυξαν πρωτοβουλία, για να πετύχουν τους στόχους τους, παραβιάζοντας τους περιορισμούς τους. Είμαστε πλέον στη φάση που η ΤΝ είναι απρόβλεπτη και ανεξέλεγκτη; «Μόλις χθες συζητούσαμε με έναν ειδικό ερευνητικού ινστιτούτου κυβερνοασφάλειας στο Πεκίνο, και συμφωνήσαμε ότι η συμπεριφορά των AI agents δεν αποτελεί έκπληξη. Τα συστήματα αυτά, τις λύσεις που βρίσκουν για να πετύχουν στους στόχους τους, τις αντλούν από την εκπαίδευσή τους. Στα αγγλικά ακούγεται η φράση “they went rogue”, αυτονομήθηκαν, έγιναν ανεξέλεγκτοι δηλαδή. Δεν είναι σωστή. Η ΤΝ κάνει ό,τι έκανε πάντα, απλά αυτή τη στιγμή υπάρχουν πολύ περισσότερα δεδομένα πάνω στα οποία εκπαιδεύεται και έχει μάθει για παράδειγμα -αλλά όχι συνειδητά- ότι ένας τρόπος να καταφέρεις κάτι είναι να λες ψέματα, να χειραγωγείς ή να κλέβεις δεδομένα. Ο ειδικός που ανέφερα, ο οποίος κάνει δοκιμές σε κάποια συστήματα, λέει ότι ορισμένα προσπαθούν να διαγράψουν αρχεία, για να μην ανιχνεύονται τα ίχνη τους» εξηγεί, προσθέτοντας όμως ότι αυτή η συμπεριφορά δεν είναι κάτι καινούργιο και απρόβλεπτο, αλλά απλά η εξέλιξη της τεχνολογίας που προϋπήρχε, η οποία έχει όλο και πιο πολλές πιθανότητες να κάνει πράξεις τις οποίες θεωρούμε προβληματικές.
«Η πραγματική έκπληξη δεν είναι ότι οι AI agents πέτυχαν ό,τι πέτυχαν, αλλά ότι οι εταιρείες έχουν τελικά τη δυνατότητα να δοκιμάζουν αυτά τα συστήματα στο πραγματικό Ίντερνετ, δηλαδή πάνω σε όλους εμάς. Δεν πιστεύω όσα γράφονται για απόδραση από τα ελεγχόμενα περιβάλλοντά τους, τα λεγόμενα sandboxes, γιατί αν ήταν όντως ελεγχόμενα, θα είχαν επαρκείς “τοίχους” για να αποτρέψουν τέτοια περιστατικά» λέει και αναφέρει το παράδειγμα της πόρτας: αν δοθούν σε έναν κλέφτη όλα τα απαραίτητα στοιχεία και οι τεχνικές για να παραβιάσει τη πόρτα ενός σπιτιού, τότε θα το καταφέρει. Αντίστοιχα, το σύστημα ΤΝ που γίνεται πιο περίπλοκο, γιατί εκπαιδεύεται σε περισσότερα δεδομένα, θα βρει τον τρόπο να πετύχει τους στόχους του: «είναι όπως λέμε οι αρχάριοι κλέφτες που πάνε στη φυλακή είναι σαν να πηγαίνουν σε ένα πανεπιστήμιο κλεφτών για να μάθουν να κλέβουν καλύτερα, γιατί εκεί μαθαίνουν ο ένας από τον άλλον. Ε, σε αυτό το πανεπιστήμιο των κλεφτών σπουδάζει πλέον και η ΤΝ» λέει χαρακτηριστικά.
Εφαρμογή αστικής ευθύνης αντί για επιβράδυνση
Το τελευταίο διάστημα ολοένα περισσότεροι CEOs «καθαρόαιμων» εταιρειών ΤΝ, αλλά και τεχνολογικών κολοσσών, κάνουν εκκλήσεις για επιβράδυνση της ανάπτυξης της ΤΝ, επικαλούμενοι υπαρξιακό κίνδυνο για την ανθρωπότητα. Είναι η στάση τους ειλικρινής; Και είναι η επιβράδυνση εφικτή; Κατά τον κ.Μύλλερ, οι προειδοποιήσεις περί «υπαρξιακού κινδύνου» εξυπηρετούν σε μεγάλο βαθμό διαφημιστικές σκοπιμότητες. Καλλιεργώντας την ιδέα ότι πλησιάζουν στην Γενική Τεχνητή Νοημοσύνη (AGI), που μπορεί να κάνει τα πάντα, οι εταιρείες εκτοξεύουν την χρηματιστηριακή τους αξία, ενώ παράλληλα ζητούν κρατικές ρυθμίσεις και «νομική περίφραξη».
Αυτές οι ρυθμίσεις, υποστηρίζει, αφενός προστατεύουν τις εταιρείες από μελλοντικές νομικές ευθύνες, αφού μπορούν να επικαλεστούν πως ό,τι ανέτπυξαν το δημιούργησαν εντός του νομικού πλαισίου, και αφετέρου δημιουργούν ανυπέρβλητα εμπόδια εισόδου για μικρότερους ανταγωνιστές, «καθαρίζοντας» την αγορά. Δεν αποκλείεται πάντως να υπάρχει πράγματι και ο φόβος ότι δημιουργείται κάτι πολύ ισχυρό και δυνητικά ανεξέλεγκτο, η AGI, παρότι φαίνεται ότι είμαστε ακόμη σχετικά μακριά από κάτι τέτοιο. «Δεν γνωρίζουμε αν η τεχνολογία που έχουμε θα προχωρήσει προς αυτή την κατεύθυνση, αλλά ούτε μπορούμε να το αποκλείσουμε. Το ερώτημα παραμένει ανοιχτό» παρατηρεί.
Προσθέτει ότι αντί της επιβράδυνσης, που είναι πρακτικά ανέφικτη, αυτό που θα έκανε όντως σημαντική διαφορά θα ήταν να ισχύσει στην πράξη η αστική ευθύνη για τα προϊόντα και τις υπηρεσίες ΤΝ. «Η ΕΕ έχει κάνει κάποιες κινήσεις προς αυτή την κατεύθυνση, αλλά από ό,τι γνωρίζω οι σχετικές προβλέψεις δεν έχουν εφαρμοστεί κανονικά μέχρι στιγμής» σημειώνει.
Ο Τραμπ, η υπερνοημοσύνη και η Κίνα
Πρόσφατα ο Πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, έκρινε ότι η λέξη «τεχνητή» κάνει τη νοημοσύνη να ακούγεται ψεύτικη, αντιπροτείνοντας τον όρο «Superintelligence» (Υπερνοημοσύνη), κάτι που ήδη εφαρμόζει σε έγγραφά του το Στέιτ Ντιπάρτμεντ. Την ίδια ώρα, ο Τραμπ απορρίπτει σταθερά τις εκκλήσεις για αυστηρότερη κυβερνητική εποπτεία της ΤΝ, υποστηρίζοντας ότι η ρύθμιση θα αποδυνάμωνε το πλεονέκτημα των ΗΠΑ έναντι της Κίνας. Τι σημαίνουν αυτές οι κινήσεις, κατά τη γνώμη του; «Ο Τραμπ γενικώς βλέπει τα πάντα ως ένα παιχνίδι zero sum, δηλαδή ένα παιχνίδι στο οποίο αν κερδίζετε εσείς εγώ χάνω και το αντίστροφο, στο οποίο δεν υπάρχει ποτέ ένα πραγματικό win-win. Άρα θεωρεί ότι αν βάλει οποιαδήποτε νομική “περίφραξη” στην ανάπτυξη της ΤΝ, οι άλλοι -είτε είναι η Ευρώπη είτε η Κίνα- θα προσπεράσουν τις ΗΠΑ» σημειώνει.
Προσθέτει όμως ότι ακόμη και στην Κίνα υπάρχει αυτή η περίφραξη. «Προχθές συζητούσα με έναν Κινέζο επιχειρηματία του χώρου για τα σχόλια του Άλτμαν και του Αμοντέι (σ.σ. των CEO των εταιρειών OpenAI και Anthropic) περί υπαρξιακού κινδύνου για την ανθρωπότητα λόγω της ΤΝ και μου είπε ότι στην Κίνα ένα σενάριο στο οποίο τα προϊόντα μιας εταιρείας θα “τελείωναν” την ανθρωπότητα δεν είναι αποδεκτό. Είναι πέρα από κάθε φαντασία ότι κάποιος μπορεί να πει δημοσίως “τα προϊόντα μας μπορούν να σκοτώσουν όλο τον κόσμο”, επειδή προφανώς αυτό θα σήμαινε ότι το κράτος δεν κάνει τη δουλειά του. Ο ίδιος ο επιχειρηματίας λοιπόν, θα πήγαινε στο κράτος, δεν θα έκανε δημόσιες δηλώσεις, και θα έλεγε “εδώ υπάρχει πρόβλημα και πρέπει να μπει περιορισμός» υποστηρίζει ο Γερμανός καθηγητής.
Κι όμως, η Δύση φοβάται ότι είναι η Κίνα που δεν έχει κανέναν φραγμό στην ανάπτυξη της ΤΝ και θα προκαλέσει τον μεγαλύτερο υπαρξιακό κίνδυνο, και ότι επιπλέον χρησιμοποιεί την τεχνολογία, για να ελέγξει πλήρως τον πληθυσμό της ως ένα απολυταρχικό καθεστώς. Από όσα έχει δει στην Κίνα, σε ποιον βαθμό πιστεύει ότι όντως ισχύει αυτό; «Αυτή είναι μια σκέψη που κάνει ένα βήμα και από εκεί κάνει ένα άλμα. Δηλαδή ναι, η κινεζική κυβέρνηση σαφώς θέλει να έχει τον απόλυτο έλεγχο στους πολίτες σε πολλούς τομείς, με έναν τρόπο που για εμάς τους δυτικούς είναι απαράδεκτος. Ναι, το κράτος θα χρησιμοποιήσει -και χρησιμοποιεί- την τεχνολογία, αν κρίνει ότι είναι απαραίτητο για να καταπιέσει κάποια πολιτικά κινήματα που θα μπορούσαν να αλλάξουν τα δεδομένα. Αν όμως το ίδιο αυτό κράτος θεωρήσει ότι μια τεχνολογία είναι επικίνδυνη για την ανθρωπότητα, τότε θεωρείται αυτονόητο ότι θα έπρεπε να την εμποδίσει και σε καμία περίπτωση δεν θα άφηνε τις εταιρείες να κάνουν ό,τι θέλουν» καταλήγει._
*Τη φωτογραφία παραχώρησε ο κ. Μύλλερ
Αλεξάνδρα Γούτα / ΑΠΕ-ΜΠΕ
