Σε μια κίνηση που αντηχεί οργουελιανά υπονοούμενα, το Ευρωπαϊκό Κοινοβούλιο προώθησε το Νόμο για την Τεχνητή Νοημοσύνη (AI Act) από το εννοιολογικό του λίκνο το 2021 στο γκρεμό της νομικής πραγματικότητας, μετατρέποντας αυτό που κάποτε αποτελούσε προπύργιο ενάντια στο κύμα της βιομετρικής επιτήρησης σε πρότυπο της.
Αυτή η νομοθεσία, η οποία είναι έτοιμη να εξαπολυθεί στον ευρωπαϊκό πληθυσμό τον προσεχή Μάιο, μετά τον καθαγιασμό της από το Συμβούλιο της ΕΕ, αποτελεί απόδειξη όχι της προστασίας των ατομικών ελευθεριών, αλλά μάλλον της μεθοδευμένης διάβρωσής τους, η οποία θα εκδηλωθεί πλήρως έως το 2025.
Η Ευρωπαϊκή Ένωση, με μια έξαρση αυτοϊκανοποίησης, έχει προαναγγείλει την ψήφιση του Νόμου για την Τεχνητή Νοημοσύνη (TN) ως ορόσημο στη νομοθετική ιστορία, ως προστάτη του κοινού καλού. Ισχυρίζονται ότι πρόκειται για ένα αριστούργημα ρύθμισης, σχεδιασμένο να κατευθύνει τις τεράστιες δυνατότητες της Τεχνητής Νοημοσύνης, περιορίζοντας παράλληλα τα εκτεταμένα πλοκάμια των συστημάτων ταυτοποίησης της επιβολής του νόμου.
Σύμφωνα με τη λαμπρή αφήγηση της ΕΕ, η πράξη αυτή είναι ο προάγγελος της ασφάλειας, της συμμόρφωσης και της αναγέννησης της καινοτομίας, υποσχόμενη να θωρακίσει το θεμέλιο των ευρωπαϊκών αξιών -τα θεμελιώδη δικαιώματα, τη δημοκρατία, το κράτος δικαίου και την περιβαλλοντική ακεραιότητα- από τη σκιά των τεχνολογιών ΤΝ υψηλού κινδύνου.
Ωστόσο, κάτω από την επιφάνεια αυτών των μεγάλων δηλώσεων κρύβεται μια ανησυχητική πραγματικότητα. Ο νόμος αυτός, παρά τις φαινομενικές εγγυήσεις του, ενθαρρύνει ένα πλαίσιο που θα μπορούσε εύκολα να μετατραπεί σε μηχανισμό επιτήρησης, καλυμμένο με το πρόσχημα της προόδου και της καινοτομίας.
Η απεικόνιση του Νόμου για την Τεχνητή Νοημοσύνη από την ΕΕ ως μια πράξη εξισορρόπησης μεταξύ της καινοτομίας και των ατομικών ελευθεριών αποσιωπά τη ζοφερή προοπτική της διπλής χρήσης του: τόσο ως εργαλείο προόδου όσο και ως μέσο για πρωτοφανή επίπεδα επιτήρησης.
Αυτή η νομοθεσία εγείρει το φάσμα ενός μέλλοντος όπου τα άγρυπνα μάτια της ΤΝ θα είναι συνυφασμένα με τον ιστό της καθημερινής ζωής, υπό τη σημαία της δημόσιας ασφάλειας και τάξης. Μας προτρέπει να αναρωτηθούμε για το πραγματικό κόστος της καινοτομίας, ιδίως όταν αυτή καταπατά την ιερότητα των προσωπικών μας ελευθεριών και της ιδιωτικής μας ζωής.
Είμαστε, ως πολίτες της ψηφιακής εποχής, προετοιμασμένοι να περιηγηθούμε στα θολά νερά αυτής της νέας πραγματικότητας, όπου τα όρια μεταξύ προστασίας και επιτήρησης είναι όλο και πιο θολά;
Η Ευρωπαϊκή Ένωση θέτει τον Νόμο για την ΤΝ ως ακρογωνιαίο λίθο της ηγετικής της θέσης στον ψηφιακό τομέα, ωστόσο δεν μπορεί κανείς να μην αναρωτηθεί αν αυτή η ηγετική θέση γίνεται εις βάρος των ίδιων των ιδανικών που επιδιώκει να προστατεύσει.
Οι ευρωβουλευτές από τα κόμματα των Πειρατών στέκονται σθεναρά αντίθετοι σε αυτό το νομοθετικό ρεύμα, ρίχνοντας τις ψήφους τους στις φουρτουνιασμένες θάλασσες της αντιπολίτευσης. Η κριτική τους επικεντρώνεται στις σκοτεινές τριμερείς διαπραγματεύσεις -ένας τριμερής διάλογος μεταξύ του Ευρωπαϊκού Κοινοβουλίου, της Ευρωπαϊκής Επιτροπής και του Συμβουλίου της ΕΕ- που, κατά την άποψή τους, θόλωσαν τη νομοθετική διαδικασία στην αδιαφάνεια.
Αυτή η έλλειψη διαφάνειας, υποστηρίζουν, όχι μόνο έχει αποδυναμώσει την αρχική πρόθεση του Νόμου για την Τεχνητή Νοημοσύνη, αλλά τον έχει μεταλλάξει σε ένα όχημα που κυρώνει την ανάπτυξη αναξιόπιστων τεχνολογιών παρακολούθησης και αναγνώρισης προσώπου σε ολόκληρη τη δημόσια σφαίρα.
Τα λόγια του ευρωβουλευτή Patrick Breyer σκιαγραφούν μια ζοφερή εικόνα αυτών των τροπολογιών, εμπλέκοντάς τες ως τους ακρογωνιαίους λίθους στην κατασκευή μιας αρχιτεκτονικής επιτήρησης που υποστηρίζεται από τεχνολογίες γεμάτες λάθη και αμφίβολες πρακτικές τεχνητής νοημοσύνης.
“Ο νόμος για την τεχνητή νοημοσύνη είναι μια απογοήτευση για μένα. Υπάρχει σαφής ανάγκη για κανόνες σχετικά με την τεχνητή νοημοσύνη. Ωστόσο, η τρέχουσα μορφή που προέκυψε από τις διαπραγματεύσεις με τις εθνικές κυβερνήσεις υπολείπεται αυτού που θα έπρεπε να έχει γίνει. Οι εθνικές κυβερνήσεις εισήγαγαν ένα τμήμα που δημιουργεί εκ των πραγμάτων ένα νομικό πλαίσιο για την εκτεταμένη κατασκοπεία των ανθρώπων από βιομετρικές κάμερες. Τέτοιες κάμερες, εξοπλισμένες με τεχνητή νοημοσύνη, είναι σε θέση να αναγνωρίζουν τα πρόσωπα των ανθρώπων και έτσι να παρακολουθούν ποιος ήταν πού, πότε και με ποιον. Ο νόμος για την τεχνητή νοημοσύνη θα έπρεπε να είχε απαγορεύσει ένα τέτοιο οργουελικό εργαλείο, αλλά αντ’ αυτού το νομιμοποιεί ρητά. Αυτή είναι μια παραβίαση της ιδιωτικής ζωής για την οποία οι Πειρατές δεν θα σηκώσουν ποτέ το χέρι τους. Είναι κρίμα, διότι ο νόμος για την τεχνητή νοημοσύνη έχει και τα θετικά του. Χαίρομαι για παράδειγμα που κατάφερα να διαπραγματευτώ τους κανόνες για το λεγόμενο e-proctoring. Προγράμματα που χρησιμοποιούνται για τον έλεγχο των μαθητών όταν δίνουν εξετάσεις στο διαδίκτυο. Εάν η τεχνητή νοημοσύνη είναι ανεπαρκώς εκπαιδευμένη, μπορεί να αξιολογήσει, για παράδειγμα, τον θόρυβο από τον διάδρομο σε έναν κοιτώνα ως αντιγραφή. Δεδομένου του αντίκτυπου που μπορεί να έχει αυτό στη ζωή ενός νέου ανθρώπου, αξίζει να το παρακολουθείτε και να βεβαιώνεστε ότι το πρόγραμμα λειτουργεί όπως πρέπει. Δυστυχώς, στο τέλος, όταν πρόκειται για τον Νόμο περί ΤΝ, τα αρνητικά υπερτερούν των θετικών.” – Patrick Breyer.
Ο συναγερμός του Breyer επεκτείνεται στο ευρύτερο οπλοστάσιο των εργαλείων παρακολούθησης που έχει πλέον στη διάθεσή της η κυβέρνηση της ΕΕ. Ρίχνει αυτά τα εργαλεία -που κυμαίνονται από την παρακολούθηση δημόσιων χώρων σε πραγματικό χρόνο έως τα συστήματα φυλετικής ταξινόμησης που τροφοδοτούνται από μια τεχνητή νοημοσύνη που φλερτάρει με την ψευδοεπιστήμη- ως προάγγελο μιας αυταρχικής παλίρροιας, που απειλεί να βυθίσει τα δημοκρατικά θεμέλια της Ευρώπης στα νερά ενός κράτους επιτήρησης υψηλής τεχνολογίας.
Απηχώντας τα συναισθήματα του Breyer, ο ευρωβουλευτής Marcel Kolaja από το Κόμμα των Πειρατών της Τσεχίας εκφράζει μια παρόμοια απογοήτευση για την πράξη. Ο Kolaja καταγγέλλει τις νομοθετικές επεμβάσεις των εθνικών κυβερνήσεων στο πλαίσιο της πράξης, θεωρώντας τις ως τους σιωπηλούς αρχιτέκτονες ενός νομικού οικοδομήματος που νομιμοποιεί τη μαζική παρακολούθηση σε πρωτοφανή κλίμακα.
Ο Νόμος για την ΤΝ, στα μάτια του, είχε μια καίρια ευκαιρία να υποβιβάσει το δυστοπικό φάντασμα της βιομετρικής επιτήρησης με τεχνητή νοημοσύνη στη σφαίρα των απαγορευμένων τεχνολογιών. Αντ’ αυτού, επέλεξε να αγκαλιάσει αυτό το οργουελικό εργαλείο με ανοιχτές αγκάλες, εγκρίνοντας τη χρήση καμερών εξοπλισμένων με ΤΝ που χαρτογραφούν παρεμβατικά τα περίπλοκα μοτίβα της ανθρώπινης κίνησης και συσχέτισης.
Τέτοιο είναι το τοπίο που ζωγραφίζουν αυτές οι φωνές διαφωνίας μέσα στο Ευρωπαϊκό Κοινοβούλιο. Μας προκαλούν να κοιτάξουμε πέρα από τη βιτρίνα της ρυθμιστικής προόδου και να αμφισβητήσουμε τις αρχές που καθοδηγούν την πορεία μας προς ένα ολοένα και πιο ψηφιοποιημένο μέλλον.
Στην κριτική τους κρύβεται μια έκκληση προς τους πολίτες της Ευρώπης και όχι μόνο: να φυλάξουν άγρυπνα τα προπύργια της ιδιωτικής ζωής και της προσωπικής ελευθερίας από τις επελαύνουσες σκιές της επιτήρησης.
