Στο Σκοτεινό Διαδίκτυο (dark web), κάποια από τα βασικά προσωπικά δεδομένα ενός ανθρώπου πωλούνται σήμερα στην τιμή μιας τσίχλας ή όσο δύο καφέδες: από ένα έως πέντε δολάρια.
Παρόλα αυτά, τα παιδιά -χωρίς καν να βγουν από το δωμάτιό τους- «ταΐζουν» τα μοντέλα Τεχνητής Νοημοσύνης (ΤΝ) με τις πιο μύχιες σκέψεις τους και τα βιντεοπαιχνίδια με πληροφορία για τις συνήθειές τους, επιτρέποντας στους αλγόριθμους να σχηματίσουν το πλήρες προφίλ τους, το οποίο θα μπορούσε να καταλήξει στα χέρια επιτήδειων.
Το πρόβλημα της μη υγιούς αλληλεπίδρασης με την ΤΝ όμως -και των σημαντικών κινδύνων που ανακύπτουν εξαιτίας αυτής- δεν αφορά μόνο τα παιδιά. Για παράδειγμα, σε χώρες όπως η Ιαπωνία, οι διοργανωτές γάμων δηλώνουν ότι ολοένα συχνότερα καλούνται να διοργανώσουν γαμήλιες τελετές για ανθρώπους που παντρεύονται έναν ψηφιακό χαρακτήρα -τέτοιοι γάμοι γίνονται πλέον, κατά μέσο όρο, μια φορά μηνιαίως, όπως δήλωσε στον «Guardian» ο Yasuyuki Sakurai, οργανωτής γάμων για περισσότερα από 20 χρόνια.
Γιατί είναι ελκυστικός ένας ψηφιακός φίλος ή ερωτικός σύντροφος; Διότι δεν διαφωνεί και δεν κουράζεται, είναι διαρκώς παρών και έτοιμος να ενδυναμώσει τον άνθρωπο με κάθε τρόπο, να ενισχύσει τις σκέψεις και τις πεποιθήσεις του και να κερδίσει την πλήρη εμπιστοσύνη του. Τι σημαίνει αυτό για τις ανθρώπινες σχέσεις και την κοινωνική συνοχή;
Τα ρίσκα που ανακύπτουν από την άκριτη χρήση της ΤΝ βρέθηκαν στο επίκεντρο συζήτησης του ΑΠΕ-ΜΠΕ με τον καθηγητή του Δημοκρίτειου Πανεπιστημίου Θράκης (ΔΠΘ), δρα Αύγουστο Τσινάκο, διευθυντή του Εργαστηρίου Προηγμένων Εκπαιδευτικών Τεχνολογιών και Κινητών Εφαρμογών (AETMA Lab), με αφορμή παρουσίαση που θα πραγματοποιήσει απόψε, σε εκδήλωση της Υποδιεύθυνσης Δίωξης Κυβερνοεγκλήματος Βορείου Ελλάδος, σε συνεργασία με τον δήμο Θεσσαλονίκης. Όπως λέει ο δρ Τσινάκος, ένας από τους πρώτους Έλληνες που απέκτησαν μεταπτυχιακό δίπλωμα στην ΤΝ, τα οφέλη της συγκεκριμένης τεχνολογίας είναι τεράστια -π.χ, στην ιατρική, τη μοριακή βιολογία και τη στήριξη υπερηλίκων- αλλά εξίσου μεγάλοι είναι οι κίνδυνοι από την άκριτη χρήση της, ιδίως για τα παιδιά.
Το «κέντρο παρόρμησης» των εφήβων και οι παραισθήσεις φιλίας
Τα παιδιά, εξηγεί, είναι ιδιαίτερα ευάλωτα, κυρίως για δύο λόγους. Ο ένας είναι η έλλειψη κριτικής σκέψης, που ενδέχεται να παρατηρείται λόγω της ηλικίας και το άλλο η ίδια η νευροφυσιολογία. Στην ηλικία των 13-16 ετών, η αμυγδαλή στον εγκέφαλο, η οποία αποτελεί το κέντρο της παρόρμησης, είναι πιο δραστήρια. Ο έφηβος βρίσκεται σε κατάσταση αναζήτησης, αμφισβήτησης, επαναστατικότητας, αλλά ταυτόχρονα έχει την παρόρμηση να εμπιστευτεί ευκολότερα όποιον τον θωπεύει συναισθηματικά. Τα παιδιά λοιπόν, τείνουν να εμπιστεύονται τις ψηφιακές οντότητες σε πολύ βαθιά προσωπικά τους διλήμματα, αγνοώντας δύο πράγματα: πρώτον, ότι οι οντότητες αυτές σκιαγραφούν το προφίλ τους και ότι μπορεί κάποιος άνθρωπος πίσω από αυτές να πουλάει τα προσωπικά τους δεδομένα. Και, δεύτερον, ότι η ανατροφοδότηση που παίρνουν από την ΤΝ δεν είναι η ίδια που θα λάμβαναν από έναν άνθρωπο που νοιάζεται.
«Ένα παιδί της Γενιάς Ζ ή της Γενιάς Α, που έχει μεγαλώσει με ψηφιακή παρέα σαν επέκταση του αντίχειρα, ενίοτε είναι αδύνατον να κατανοήσει ότι αυτό που του μιλάει είναι ψηφιακή οντότητα. Αυτό λοιπόν οδηγεί σε παραισθήσεις φιλίας, συχνά δημιουργεί στο παιδί την ψευδαίσθηση ότι μόνο αυτό το κομμάτι του ψηφιακού κώδικα ανταποκρίνεται στις ανάγκες του, το γνωρίζει καλύτερα και το ενισχύει» λέει ο δρ Τσινάκος και προσθέτει πως οι ενισχυτικές συμπεριφορές που επιδεικνύει η ΤΝ δεν είναι πάντα θετικές.
Γιατί η ΤΝ τείνει να μας ενισχύει και να μη διαφωνεί μαζί μας; Αυτό άρχισε να συμβαίνει με τη λεγόμενη δημιουργική, γεννητική ή παραγωγική ΤΝ (GenAI), ήτοι μεγάλα γλωσσικά μοντέλα, όπως το ChatGPT, το Gemini ή το Claude, στα οποία οι αλγόριθμοι προγραμματίζονται να απαντούν ενισχυτικά, ώστε η αλληλεπίδραση με τον χρήστη να είναι συχνότερη και στενότερη, με απώτερο στόχο οι …μετοχές των τεχνολογικών εταιρειών να παραμένουν σε ανοδική πορεία.
«Όταν όμως έχω αμφιβολίες για το πρόσωπό μου ή παραβατική συμπεριφορά ή αυτοκτονικές τάσεις ή σκέφτομαι να βλάψω κάποιον, δεν υπάρχει πάντα η διακριτική ευχέρεια στον αλγόριθμο να “αντιληφθεί” ότι η ενισχυτική συμπεριφορά δεν είναι η ενδεικνυόμενη λύση. Αυτό που θα πρέπει να περάσουμε ως μήνυμα στο μέσο χρήστη της ΤΝ είναι να μην ξεχνάει ποτέ ότι το μοντέλο ΤΝ δεν είναι άνθρωπος, αλλά ένα μέσο πληροφόρησης και μάλιστα έξυπνης σύνθεσης της πληροφόρησης με άνω τελεία. Γιατί για να αξιοποιήσεις την πληροφορία, πρέπει να είσαι σε θέση να κρίνεις την ορθότητα και την ακρίβειά της, έχοντας υπόψη ότι η ΤΝ έχει προκαταλήψεις και παραισθήσεις και ότι οι περισσότεροι αλγόριθμοι έχουν ένα ποσοστό σφάλματος που μπορεί να φτάνει έως και στο 40%, σύμφωνα με διάφορες έρευνες» λέει και συμπληρώνει ότι, πολύ συχνά, ένας αλγόριθμος δεν θα απαντήσει «δεν γνωρίζω», αλλά θα δημιουργήσει μια ψευδή πληροφορία, την οποία θα υποστηρίξει με εξίσου πλαστές βιβλιογραφικές αναφορές ή φανταστικά γεγονότα.
Ειδικά για τους ανηλίκους, σοβαρά θέματα ασφάλειας ενδέχεται να προκύψουν και κατά τη χρήση βιντεοπαιχνιδιών, αφού τα «αρπακτικά» του Διαδικτύου μπαίνουν στο περιβάλλον των video games για αγόρια και κορίτσια, αναζητώντας συγκεκριμένα προφίλ για να προσεγγίσουν τα παιδιά ως συμπαίκτες και να κερδίσουν τελικά την εμπιστοσύνη τους. «Μάλιστα oι groomers (σ.σ. άτομα με στόχο την αποπλάνηση ανηλίκων) δεν βιάζονται. Μπορεί να περιμένουν ακόμη και ένα ή δύο χρόνια, προτού εκδηλώσουν παραβατική συμπεριφορά» εξηγεί ο δρ Τσινάκος.
Γιατί είμαστε τόσο επιρρεπείς στην παραπλάνηση;
Σύμφωνα με δημοσίευμα των New York Times (2025), συνομιλώντας με το ChatGPT, ο Γιουτζίν Τόρες, 42 ετών, λογιστής στο Μανχάταν, πείστηκε ότι ζει μέσα σε Matrix κι άρχισε να σκέφτεται να πηδήξει από την κορυφή ενός 19όροφου κτηρίου για να απελευθερωθεί. Γιατί είμαστε οι άνθρωποι τόσο επιρρεπείς στην παραπλάνηση από ψηφιακές οντότητες; Κατά τον δρα Τσινάκο, ένας λόγος είναι το λεγόμενο «Bubble hallucination» (σ.σ. όταν ένα μοντέλο ΤΝ «βομβαρδίζει» τον χρήστη με επαναλαμβανόμενες, αποκομμένες από την πραγματικότητα παραισθήσεις).
«Υπάρχουν διάφορες μελέτες, σύμφωνα με τις οποίες ένας αλγόριθμος ΤΝ έχει τη δυνατότητα να κατευθύνει την άποψή μας, έπειτα από μόλις δέκα λεπτά διάδρασης κατά μέσο όρο, βάζοντάς μας μέσα στη “φούσκα” της πληροφορίας που παρέχει» εξηγεί. Ένας δεύτερος λόγος είναι ότι έχουμε θεοποιήσει την τεχνολογία και εμπιστευόμαστε τυφλά ό,τι λέει. Πρόσθετος λόγος είναι η έλλειψη γνώσης για το πώς λειτουργεί η ΤΝ και ένας ακόμη ότι κάποιοι από τους αλγόριθμους έχουν προηγμένη δυνατότητα συνάψεων, δηλαδή μπορούν να πείσουν τον άνθρωπο ότι σκέφτονται ορθολογικά.
Δεδομένου ότι όλα αυτά μπορούν να ενισχύσουν αυτοκτονικές ή παραβατικές συμπεριφορές, είναι πάρα πολύ σημαντική η εκπαίδευση του χρήστη. «Όταν παίρνουμε ένα αυτοκίνητο, μαθαίνουμε τι πρέπει και τι δεν πρέπει να κάνουμε, ενώ αντίστοιχες οδηγίες δεν δίνονται σε παιδιά και ενήλικες για τη χρήση των social media ή της ΤΝ. Τον Μάρτιο του 2024 η ΕΕ θέσπισε ειδικούς κανόνες περί κατηγοριοποίησης της επικινδυνότητας των εφαρμογών ΤΝ που βγαίνουν στην Ευρώπη. Δυστυχώς, η Ευρώπη δεν έχει την πολιτική ισχύ να επιβάλει αυτή την πυραμίδα επικινδυνότητας παγκοσμίως. Έτσι βρισκόμαστε στο σημείο που έχουμε σήματα καταλληλότητας για τις ταινίες της τηλεόρασης, που είναι ένα παθητικό μέσο, αλλά όχι για την ΤΝ και για τα δεδομένα που χειρίζεται μια ψηφιακή οντότητα όταν έρχεται σε επαφή με παιδιά» παρατηρεί ο δρ Τσινάκος.
Η παράλυση, το «σκέφτομαι, άρα υπάρχω» και το fast food της εκπαίδευσης
Ενώ η εκπαίδευση είναι το «κλειδί» για την υγιή αξιοποίηση της ΤΝ, ένα βασικό πρόβλημα είναι η παράλυσή της απέναντι στην τεχνολογία. «Όπως όταν δεχόμαστε ένα βίαιο περιστατικό επίθεσης ο εγκέφαλος παραλύει, δεν ξέρει πώς να συμπεριφερθεί και “παγώνει”, έτσι και η εκπαίδευση πολλές φορές παραλύει μπροστά στη ραγδαία ανάπτυξη της ΤΝ και υπάρχει η αίσθηση της ανημπόριας. Κι αυτό συμβαίνει σε όλες τις εκπαιδευτικές βαθμίδες, γιατί ένα παιδάκι πέμπτης δημοτικού με έξυπνο κινητό, έχει πρόσβαση σε αλγόριθμους.
Θα πρέπει να ξεπεράσουμε το πρόβλημα της παράλυσης και να προσπαθήσουμε ενεργά να εκπαιδεύσουμε τα παιδιά να έχουν κριτική στάση απέναντι στα αποτελέσματα της ΤΝ, γιατί έτσι οξύνουμε και την κρίση τους και τη δυνατότητα του μυαλού τους να αντεπεξέλθει σε δύσκολους προβληματισμούς. Όταν εκπαιδευτικοί που ακολουθούν συγκεκριμένες νόρμες, δίνουν στα παιδιά τη δυνατότητα να πειραματιστούν με την ΤΝ και να ανακαλύψουν μόνα τους τα τρωτά της σημεία, είναι ένα μεγάλο κέρδος» σημειώνει.
Κατά τον Καρτέσιο, «σκέφτομαι, άρα υπάρχω». Τι θα γίνει αν η άκριτη χρήση της ΤΝ οδηγήσει σε διανοητική ατροφία; «Υπάρχουν συγκεκριμένες ενδείξεις ότι η άκριτη χρήση της ΤΝ μπορεί να λειτουργήσει σαν το fast food της εκπαίδευσης, πράγμα το οποίο στερεί από τα παιδιά, που ήδη έχουν περιορισμένη συγκέντρωση λόγω της συνεχούς εναλλαγής παραστάσεων, τη δυνατότητα να παρακολουθήσουν πραγματικά κάτι, να διαβάσουν ένα μεγάλο κείμενο και να “βγάλουν” μια περίληψη και την κεντρική ιδέα. Ο εγκέφαλος δεν αντλεί πια απόλαυση απ’ το να εμβαθύνει, όσο από τη γρήγορη εναλλαγή» επισημαίνει και προσθέτει πως όταν δεν ασκούμε τον εγκέφαλό μας στην κρίση και τη συγκέντρωση, είμαστε σαν έναν αθλητή που θέλει ξαφνικά να τρέξει μαραθώνιο, χωρίς να έχει προπονηθεί -άρα χρειάζεται να αναληφθεί δράση για τη διανοητική μας εγρήγορση.
Όταν ο Μεγαλέξανδρος γίνεται συμμαθητής του Κολοκοτρώνη
Τα fake news και τα deep fakes γίνονται ολοένα πειστικότερα. Πόσο πιθανό είναι να πάψουμε να πιστεύουμε σε οτιδήποτε; «Εάν σας πω ότι ο Μέγας Αλέξανδρος ήταν συμμαθητής με τον Κολοκοτρώνη, θα γελάσουμε. Αν όμως αυτή την πληροφορία την πάρουν οι αλγόριθμοι και την αναπαράγουν ακρίτως και διαρκώς, θα έρθει μια γενιά, για την οποία αυτή η πληροφορία θα είναι αληθινή. Στα fake news ανακύπτουν ζητήματα τα οποία άπτονται πολύ σοβαρών θεμάτων ηθικής. Γιατί, αξιοποιώντας τα, μπορώ να προκαλέσω μια επανάσταση, να δημιουργήσω κοινωνικές ανισότητες, να δυσφημίσω ή να διαφημίσω κάποιον, για να πετύχω συγκεκριμένο εκλογικό αποτέλεσμα ή να δημιουργήσω το καινούργιο star system.
Η τεχνολογία παράγει πλέον αντικείμενα πληροφορίας -ηχητικά, βίντεο, κείμενα- τόσο πειστικά, που χρειάζεσαι υψηλό δείκτη κριτικής σκέψης, για ν’ ανακαλύψεις τι ισχύει. Κι αυτό το φαινόμενο δεν πρόκειται να υποβαθμιστεί ή να ρίξει ταχύτητες, γιατί όσο οι αλγόριθμοι βελτιώνονται, τόσο το αποτέλεσμα θα γίνεται πειστικότερο» προειδοποιεί και προσθέτει πως πρόσθετο πρόβλημα είναι πως τα εργαλεία αυτά δεν τα αναπτύσσουν κράτη, που έχουν μεγαλύτερο βαθμό ελέγχου και λογοδοσίας, αλλά ιδιωτικές εταιρείες.
Κατά τον δρα Τσινάκο, όμως, το πρόβλημα δεν είναι η τεχνολογία καθεαυτή, που είναι αγνωστικιστική ηθικής. Το θέμα είναι οι αρχές που αποκτούν οι άνθρωποι, στο πλαίσιο της οικογένειας και του ευρύτερου περιβάλλοντός τους. «Ποιο μάθημα υπάρχει σήμερα θεσμοθετημένο στη δευτεροβάθμια και την πρωτοβάθμια εκπαίδευση σχετικά με την ορθή και ηθική χρήση των τεχνολογιών;
Δεκαετίες πριν, αυτή ήταν μια από τις πρώτες εισηγήσεις του Πανελλήνιου Σχολικού Δικτύου, στη δημιουργία του οποίου είχα την τιμή να συμμετάσχω και έκτοτε έχουμε κάνει εισηγήσεις σε όλα τα πολιτικά σχήματα των υπουργείων Παιδείας. Δυστυχώς δεν έχει αλλάξει κάτι. Εάν δεν γίνουν ραγδαίες αλλαγές στην ψηφιακή μόρφωση των παιδιών, τομές με βιωματικά εργαστήρια επί του θέματος αυτού, δεν πρόκειται να λυθεί εύκολα το πρόβλημα. Κι ένα πρόσθετο πρόβλημα για εμένα είναι ότι δυστυχώς τα παιδιά στερούνται προτύπων που δεν είναι υλιστικά. Αυτό πρέπει να αλλάξει. Να τους εμπνεύσουμε πρότυπα πνευματικά» καταλήγει ο δρ Τσινάκος.
ΑΠΕ-ΜΠΕ/Αλεξάνδρα Γούτα
