Αλγόριθμοι που «λένε τη μοίρα μας»

Από τους πρώτους μήνες της Αραβικής Ανοιξης μαθεύτηκε ότι η εξέγερση εξαπλωνόταν χάρη στα μέσα κοινωνικής δικτύωσης: Twitter και Facebook στις οθόνες υπολογιστών και κινητών τηλεφώνων έγιναν οι πύλες επικοινωνίας των αντικαθεστωτικών κινημάτων. Και έπειτα, τη σκυτάλη πήραν οι στρατολόγοι της Αλ Κάιντα, του ISIS και κάθε λογής τζιχαντιστών. Τεχνολογικά, κανείς δεν μας εξήγησε πώς γίνεται μια τέτοια υποδομή να συντηρεί τον όλεθρο σε Ιράκ και Συρία εδώ και τέσσερα χρόνια, όταν όλοι γνωρίζουμε ότι οι μυστικές υπηρεσίες των μεγάλων δυνάμεων μπορούν να παρακολουθούν καθετί ψηφιακό.

Τώρα, «επιστημονικές ανακοινώσεις», που διοχετεύθηκαν στα ΜΜΕ ακόμη και έναν μήνα πριν από την παρουσίασή τους σε επιστημονικά συνέδρια, μιλούν για αλγορίθμους που όχι μόνο ταυτοποιούν όσους επικοινωνούν μέσω των κοινωνικών δικτύων, αλλά και «προβλέπουν» τη μελλοντική τους ένταξη ή μη στους τζιχαντιστές. Και ακόμη ότι τα εργαλεία αυτά «προγνωστικής ανάλυσης» μπορούν να προδιαγράψουν τις επόμενες κινήσεις του ISIS στα πεδία των μαχών.  Οι επόμενες ειδήσεις από τα πεδία σφαγής της Μέσης Ανατολής θα μας δώσουν ίσως δείγματα γραφής των δυνατοτήτων αυτών των αλγορίθμων. Αλλά προς το παρόν, και πέραν της εφαρμογής τους στον πόλεμο, κάτι ιδιαίτερα ανησυχητικό για τους «εν ειρήνη διαβιούντες» προκύπτει: αξιοποιούνται ήδη στο εσωτερικό των ΗΠΑ, για την καταπολέμηση του εγκλήματος. Διαβάστε στη συνέχεια το πώς και τι γίνεται «για το καλό μας»...  

Για όποιους Δυτικούς ζουν ακόμη στα συννεφάκια των κοινωνικών δικτύων χωρίς να τους αγγίζει το δράμα του υπόλοιπου πλανήτη, το μέγα θέμα της εποχής είναι δύο εφαρμογές (apps) που επιτρέπουν στον οποιονδήποτε κακεντρεχή να «βαθμολογεί» τον οποιονδήποτε. Η μία εφαρμογή υπάρχει ήδη, λέγεται Lulu και βαθμολογεί άνδρες «υποψήφιους για ραντεβού». Η άλλη θα ξεκινήσει τον Νοέμβριο, θα λέγεται Peeple και θα αφορά... κάθε δυστυχή.

Λογικά τέτοιου είδους μικρότητες που εξαπλώνονται στο «παγκόσμιο χωριό» του Διαδικτύου θα αποτελούσαν θέμα μελέτης για κοινωνιολόγους. Τώρα όμως τα όσα γράφονται και όσα θα γράφονται επί δικαίους και αδίκους ενδέχεται να είναι αντικείμενο μελέτης και πολλών ακάματων αναλυτών συμπεριφοράς. Τι είναι τούτοι; Προγράμματα υπολογιστών, εξειδικευμένα στο να συλλέγουν επικοινωνίες προσώπων και πληροφορίες για πρόσωπα, τις οποίες κοσκινίζουν με ειδικούς αλγορίθμους προκειμένου να κατανοήσουν «τι μας αρέσει, σε τι πιστεύουμε, τι θα θέλαμε να κάνουμε ή τι θα κάνουμε αν μας συμβεί... τι;». Πρόκειται για προγράμματα που οι δημιουργοί τους λένε ότι μπορούν να προβλέψουν τις μελλοντικές επιλογές και κινήσεις οποιουδήποτε, αρκεί να έχουν μελετήσει επαρκώς την ψηφιακή συμπεριφορά του.

    

Οι της πληροφορικής που ασχολούνται με το Διαδίκτυο γνωρίζουν πολύ καλά ότι όλο το μάρκετινγκ, οι δημόσιες σχέσεις και η διαφήμιση του e-business στηρίζονται σε εργαλεία ανάλυσης της συμπεριφοράς των επισκεπτών των δικτυακών τόπων προκειμένου να προβλέψουν τις αγοραστικές τάσεις και τις προτιμήσεις των εν δυνάμει πελατών τους. Επίσης, όπως έχει καταμετρήσει η διεθνής εταιρεία συμβούλων Deloitte Consulting, τέτοια εργαλεία προγνωστικής ανάλυσης (predictive analysis) χρησιμοποιεί ήδη το 14% των διευθύνσεων προσωπικού των επιχειρήσεων προτού προσλάβουν ή δώσουν προαγωγή σε στελέχη. Πρόκειται γενικά για αλγορίθμους και προγραμματιστικά εργαλεία που βασίζονται στη στατιστική και στους νόμους πιθανοτήτων, παραπλήσια εκείνων που χρησιμοποιούν οι κοινωνιολόγοι στις αναλύσεις τους ή οι πολιτικοί αναλυτές στις σφυγμομετρήσεις τους.

Θα μπορούσε να πει κανείς ότι ακόμη και ο πιο ανίδεος πολίτης έχει υποψιαστεί την ύπαρξή τους όταν τα σουπερμάρκετ του προσφέρουν μια δικής τους έκδοσης εκπτωτική κάρτα αγορών. Ωστόσο χρειάζεται να επισημάνουμε μια λεπτή διαφορά: τα παραδοσιακά προγράμματα εξόρυξης δεδομένων (data mining) προσέφεραν στις επιχειρήσεις μια πολύ καλή ακτινοσκόπηση της τρέχουσας στάσης των πελατών ή συνεργατών τους. Τα νέα προγράμματα προγνωστικής ανάλυσης ανιχνεύουν συμπεριφορές και τάσεις προκειμένου να προσφέρουν προβλέψεις για τη στάση τους στο μέλλον.

To Twitter έδωσε πέρυσι 10 εκατ. δολάρια στο ΜΙΤ για να του αναλύσει το πώς τα κοινωνικά δίκτυα επιδρούν στην κοινωνία

Σύμφωνα με στοιχεία της εταιρείας ερευνών αγοράς Gartner, η διεθνής αγορά αναλυτικών εργαλείων αυξάνεται με ρυθμό 9% ετησίως, με το 50% αυτών να είναι ήδη εργαλεία προγνωστικής ανάλυσης. Οπως χαρακτηριστικά περιέγραψε το φαινόμενο στο εξώφυλλο του πρόσφατου βιβλίου του «Predictive Analytics» ο πρώην καθηγητής του Columbia University Eric Siegel, είναι «η δυνατότητα να προβλέπεις ποιος θα κάνει κλικ, ποιος θα αγοράσει, ποιος θα πει ψέματα ή ποιος θα πεθάνει». Το τελευταίο ισχύει διότι και οι ιδιωτικές ασφαλιστικές εταιρείες χρησιμοποιούν τέτοια εργαλεία αντλώντας στοιχεία από τους φακέλους υγείας μας.

Το πόσο μακριά έχουν φθάσει αυτά τα εργαλεία και σε ποια άλλα απρόσμενα πεδία εφαρμογών έχουν διεισδύσει έγινε επίσημα γνωστό εφέτος χάρη σε δύο επιστημονικές ανακοινώσεις. Η πρώτη έγινε στις 9 Μαρτίου 2015 από το Ερευνητικό Κέντρο Πληροφορικής του Κατάρ (QCRI) και η δεύτερη από το Πανεπιστήμιο της Αριζόνας στις 11 Αυγούστου 2015.

 

Σύμφωνα με τη μελέτη των ερευνητών του Κατάρ (βλ. http://arxiv.org/pdf/1503.02401v1.pdf), η ομάδα τους επινόησε μια μέθοδο για να προβλέπουν το ποιος από τους χρήστες του Twitter είναι πιθανόν να υποστηρίξει μελλοντικά τους τζιχαντιστές του ISIS αναλύοντας τα μηνύματά τους (tweets). Σημειωτέον ότι το κοινωνικό δίκτυο του Twitter - που πολλοί αποκαλούν «SMS του Διαδικτύου» - κατόρθωσε μέσα σε μια δεκαετία ύπαρξής του να έχει 302 εκατομμύρια ενεργούς χρήστες που γράφουν καθημερινά ένα άθροισμα 500 εκατομμυρίων tweets (στοιχεία Μαΐου 2015). Η εν λόγω ομάδα του Κατάρ λοιπόν μελέτησε σε διάστημα τριών μηνών περισσότερα από 3,1 εκατ. tweets στα αραβικά που εμπεριείχαν τη λέξη ISIS από περισσότερους από 250.000 χρήστες.

Αποδύθηκαν στη συνέχεια στον εντοπισμό κοινών χαρακτηριστικών που θα τους βοηθούσαν να κατηγοριοποιήσουν αυτούς τους χρήστες. Βρήκαν χαρακτηριστικά όπως το ότι εκείνοι που μιλούσαν υπέρ του ISIS χρησιμοποιούσαν πάντα τον πλήρη τίτλο της οργάνωσης ενώ εκείνοι που τον επέκριναν μόνο τα αρχικά της. Επειτα τροφοδότησαν τα όσα χαρακτηριστικά εντόπισαν σε έναν αλγόριθμο μάθησης και προχώρησαν στον διαχωρισμό των υποστηρικτών από τους αντιτιθέμενους. Κατέληξαν λέγοντας ότι είχαν επιτύχει να φτιάξουν «έναν ταξινομητή που μπορεί να προβλέπει τους μελλοντικούς υποστηρικτές ή μη του ISIS με ακρίβεια 87%».

Σύμφωνα με τη δεύτερη μελέτη, του Arizona State University (βλ. http://arxiv.org/pdf/1508.01192v1.pdf), αναλύθηκαν 2.200 δραστηριότητες του ISIS κατά το δεύτερο εξάμηνο του 2014 σε διάφορες χώρες και αναζητήθηκαν τα κοινά ίχνη που θα μπορούσαν να αναδείξουν τον «τρόπο σκέψης» των τζιχαντιστών.

Οπως εξήγησε ο καθηγητής του Πανεπιστημίου της Αριζόνας Πάουλο Σαχαριάν (Paulo Shakarian), «αυτό που θέλαμε να δούμε ήταν αν υπήρχαν σχέσεις μεταξύ των δράσεων του Ισλαμικού Κράτους που οδηγούσαν σε σημαντική αύξηση της δραστηριότητάς του».  

Τέτοιες σχέσεις εντοπίστηκαν, όπως λ.χ. ότι πριν από κάθε επίθεση πεζικού του ISIS σε βορεινές πόλεις του Ιράκ προηγούνταν ανατινάξεις παγιδευμένων αυτοκινήτων στη Βαγδάτη. Αντίστοιχα, στη Συρία, έπειτα από κάθε αεροπορική επίθεση της συριακής αεροπορίας, ο ISIS εξαπέλυε κύμα συλλήψεων - προφανώς διότι θεωρούσε πως οι επιθέσεις βασίζονταν σε στοχοθέτηση από πληροφοριοδότες. Από την όλη ανάλυση ο Σαχαριάν υποστηρίζει ότι τους προέκυψε ένας αλγόριθμος που μπορεί πλέον να προβλέπει τις επόμενες κινήσεις των τζιχαντιστών.

Το υπουργείο Αμυνας των ΗΠΑ βράβευσε εφέτος το Πανεπιστήμιο της Αριζόνας στο πλαίσιο του σχετικού προγράμματος «Minerva» (βλ. http://minerva.dtic.mil) και συνεργάζεται τώρα με την ομάδα του Σαχαριάν προκειμένου να βελτιώσει τον αλγόριθμο σε σημείο που να επεξεργάζεται και στοιχεία «τρέχοντα» (real time) από τα πεδία των μαχών. H χρηματοδότηση του Πενταγώνου θα επιτρέψει την πενταετή επέκταση της έρευνας με εστίαση στα μηνύματα του Τwitter - ιδιαίτερα τα προερχόμενα από τις χώρες Ιράκ, Συρία, Νιγηρία, Ινδονησία, Μαλαισία και Βρετανία.

 

Συνεργάτης του Σαχαριάν σε αυτό το νέο πενταετές πρόγραμμα θα είναι και ένας άλλος ερευνητής του ίδιου πανεπιστημίου, ο Χασάν Νταβουλτσού (Hasan Davulcu), που έχει αναπτύξει το λογισμικό Looking Glass. Καταπώς το περιέγραψε ο ίδιος, «έχουμε αναπτύξει νέους αλγορίθμους και εργαλεία που επιτρέπουν στους αναλυτές να επιτύχουν πρωτόγνωρη ακρίβεια και εμβέλεια κάλυψης πολύπλοκων κοινωνικο-πολιτισμικών φαινομένων. Ξεκινούμε με τον εντοπισμό των ομάδων ανθρώπων που ενδιαφερόμαστε να αναλύσουμε, προχωρούμε με την εύρεση των μέσων επικοινωνίας τους στο Διαδίκτυο και των ανθρώπων που τους ακολουθούν σε αυτά, ιχνηλατούμε τη συσχέτιση των όσων εκπέμπουν προς τρίτους και διερευνούμε την αντιστοίχιση των όσων παρατηρούμε στον ψηφιακό κόσμο με όσα συμβαίνουν στον πραγματικό».

Με κοινωνιολογική ορολογία, οι νέες αυτές τεχνολογίες ανάλυσης ανιχνεύουν «καταρράκτες πληροφόρησης», επιχειρούν την κατανόηση των ιδεολογικών κατευθύνσεων των κοινοτήτων χρηστών που μετέχουν σε αυτούς και εντοπίζουν τα κύρια χαρακτηριστικά και τους μηχανισμούς λειτουργίας τέτοιων κοινοτήτων. Στόχοι προτεραιότητας είναι οι κοινωνικές ομάδες που βιώνουν τους υψηλότερους ρυθμούς αλλαγής στη ζωή τους, ο χαρακτηρισμός των τύπων των αλλαγών που τους συμβαίνουν και ο εντοπισμός των κύριων κινήτρων που έχουν τα άτομα των ομάδων αυτών.

Με απλούστερη ορολογία, αυτοματοποιούν το «φακέλωμα των προθέσεων» όλων όσοι κάνουν το λάθος να εκφράζονται ψηφιακά με... «κακές λέξεις».

 

Οι δημοσιεύσεις αυτές σίγουρα εντυπωσιάζουν σε πρώτη ανάγνωση αλλά δεν μένουν χωρίς αμφισβήτηση. Από επιστημονική σκοπιά, ο γνωστότερος επικριτής της προγνωστικής ανάλυσης είναι ο καθηγητής του Πανεπιστημίου Χάρβαρντ και διευθυντής του Institute for Quantitative Social Science Gary King: «Οι άνθρωποι επηρεάζονται από το περιβάλλον τους με αμέτρητους τρόπους» λέει. «Το να προσπαθήσεις να καταλάβεις ποια θα είναι η επόμενη κίνησή τους προϋποθέτει ότι όλοι οι παράγοντες που τους επηρεάζουν σου είναι γνωστοί και μπορούν να μετρηθούν, ως μεταβλητές, με ακρίβεια. Αλλά τα περιβάλλοντα των ανθρώπων αλλάζουν πιο γρήγορα από ό,τι και οι ίδιοι. Τα πάντα, από τις καιρικές συνθήκες ως τη σχέση με τη μητέρα τους, μπορούν να αλλάξουν τον τρόπο που σκέφτονται και ενεργούν. Ολες αυτές οι μεταβλητές είναι απρόβλεπτες και το πώς θα επηρεάσουν ένα άτομο είναι ακόμη λιγότερο προβλέψιμο. Αν βάλεις ένα άτομο στην ίδια ακριβώς κατάσταση μια άλλη μέρα, μπορεί να πάρει εντελώς διαφορετική απόφαση. Αυτό σημαίνει ότι μια στατιστική πρόβλεψη έχει ισχύ μόνο στις αποστειρωμένες συνθήκες εργαστηρίου, πράγμα που βεβαίως δεν είναι πια και τόσο χρήσιμο».

Παρόμοια αντίθεση έχει εκφράσει και ο καθηγητής Ανθρωπολογίας του αμερικανικού πανεπιστημίου St. Martin, David Price, γνωστός από το βιβλίο του για την εποχή του μακαρθισμού Threatening Anthropology. «Μου προκαλεί ανησυχία» δήλωσε «το ότι η πολιτική και η στρατιωτική ηγεσία επενδύουν τόσο πολύ στην υποτιθέμενη προβλεψιμότητακαι στις υποσχέσεις της ανάλυσης των κοινωνικών δικτύων. Μπορώ να κατανοήσω πλήρως το γιατί οι στρατιωτικοί θέλγονται από τέτοια μοντέλα, αλλά το να κατανοήσεις τα κοινωνικά δίκτυα, το να κατανοήσεις την εξάπλωση των ιδεών και των πεποιθήσεων σε μέρη όπως το Ιράκ πλησιάζει τον παραλογισμό». Και καταλήγει: «Δεν βλέπω αυτό το πρόγραμμα Minerva (του Πενταγώνου) να χρηματοδοτεί κάποια μελέτη για το πώς οι πολιτικές, στρατιωτικές και κατασκοπευτικές δραστηριότητες των Αμερικανών στη Μέση Ανατολή συνέβαλαν στη δημιουργία του ISIS. Οι ανθρωπολόγοι θα μπορούσαν να έχουν σπουδαίο ρόλο στην έρευνα για την εθνική ασφάλεια, αλλά σε προγράμματα σαν το Minerva φαίνεται ότι ρωτούν πάντα τις ερωτήσεις που... θα τους δώσουν τις απαντήσεις που οι ίδιοι επιθυμούν να ακούσουν».

 

Ο εφησυχασμένος Δυτικός που τον απασχολεί η βαθμολογία του στο Lulu και αφήνει τέτοιου είδους προβληματισμούς στα χέρια των υπευθύνων Αρχών δεν έχει βεβαίως λόγο να χολοσκάει για το αν οι αλγόριθμοι διαβάζουν σωστά τις προθέσεις των τζιχαντιστών και των συνοδοιπόρων τους. Ή... όχι: Στις 24 Σεπτεμβρίου 2015 οι New York Times δημοσίευσαν άρθρο υπό τον τίτλο «Πρόγραμμα της αστυνομίας στοχεύει στο να ξεχωρίζει το ποιοι είναι πιθανότερο να διαπράξουν έγκλημα». Διαβάζοντας το άρθρο ανακαλύπτεις ότι όλα όσα εφαρμόστηκαν πειραματικά στο κυνήγι των τζιχαντιστών του ISIS μέσω κοινωνικών δικτύων έχουν ήδη μεταφερθεί στο εσωτερικό των ΗΠΑ. «Η χρήση των υπολογιστικών μοντέλων από τις τοπικές υπηρεσίες επιβολής του νόμου για την πρόβλεψη του εγκλήματος είναι μέρος μιας ευρύτερης τάσης από κυβερνήσεις και εταιρείες οι οποίες στρέφονται όλο και περισσότερο προς τις προγνωστικές αναλύσεις και την εξόρυξη δεδομένων για τη μελέτη συμπεριφορών» μας πληροφορεί το άρθρο. «Παγίως χρηματοδοτούμενη από την ομοσπονδιακή κυβέρνηση, η στρατηγική αυτή εφαρμόζεται ήδη από δεκάδες τμήματα ασφαλείας» - συμπεριλαμβανομένων εκείνων του Λος Αντζελες, του Μαϊάμι και του Νάσβιλ - και τα εισαγγελικά γραφεία του Μανχάταν και της Φιλαδέλφειας». Και μάλιστα, εφαρμόζεται εδώ και έναν χρόνο!

Πώς ακριβώς υλοποιείται στην πράξη αυτή η στρατηγική; Με τον εξής απλό τρόπο: αφού ο αλγόριθμός «πρόβλεψης εγκληματικής πρόθεσης» καταλήξει σε έναν κατάλογο ονομάτων, καλούνται αυτά τα άτομα να «προσέλθουν στο Τμήμα» για μια φιλική συζήτηση νουθεσίας. Εκεί τους επισημαίνεται ότι γνωρίζουν τις προθέσεις τους και ότι τους δίνεται μια «τελευταία ευκαιρία» να πάρουν τον ίσιο δρόμο. Εφεξής το παραμικρό ξεστράτισμά τους από τη νομιμότητα θα τιμωρηθεί με την αυστηρότερη δυνατή ποινή. Και για να καταλάβουμε πώς αποδίδεται αυτή η δικαιοσύνη, το καλό άρθρο μάς δίνει δύο παραδείγματα προειδοποιηθέντων αλλά ουχί νουθετισθέντων: ο ένας πιάστηκε με μια σφαίρα στην τσέπη του παντελονιού του και καταδικάστηκε με 15 χρόνια φυλάκισης, ενώ ο άλλος εισέπραξε 25 χρόνια φυλακής επειδή είχε στην τσέπη κάποιες ναρκωτικές ουσίες και είχε ανεβάσει στοFacebook μια φωτογραφία του με όπλο.

Για τους εφησυχασμένους πολίτες των ΗΠΑ το μόνο ίσως ανησυχητικό είναι το ότι ακόμη δεν έχει μετρηθεί κάποια αδιαμφισβήτητη μείωση της εγκληματικότητας στις περιοχές όπου εφαρμόζεται ο αλγόριθμος-προφήτης. Για τους εφησυχασμένους πολίτες της Ευρώπης η όποια ανησυχία πήρε μόλις «αναστολή»: το Ανώτατο Ευρωπαϊκό Δικαστήριο αποφάσισε στις 6 Οκτωβρίου 2015 ότι η από 15ετίας σύμβαση μεταφοράς προσωπικών δεδομένων των πολιτών μεταξύ ΗΠΑ και ΕΕ είναι παράνομη και ως εκ τούτου άκυρη. Οπότε το ενδεχόμενο να προβλεφθούν οι προθέσεις μας από αλγορίθμους της άλλης μεριάς του Ατλαντικού απομακρύνεται. Για το τι θα γίνει με τους όποιους αλγορίθμους της από 'δώ μεριάς... ρωτήστε καλύτερα την καφετζού της γειτονιάς σας.

 

Πηή:Το Βήμα