Της Σοφίας Ζαφειροπούλου
Ο σύγχρονος άνθρωπος τείνει να εμπιστεύεται τους υπολογιστές τυφλά, καθώς επικρατεί η άποψη πως ό,τι προέρχεται από μια οθόνη στηρίζεται σε έναν συγκερασμό αλάνθαστων μαθηματικών κανόνων, απαλλαγμένων από ανθρώπινες αδυναμίες, συναισθήματα, υποκειμενικές προτιμήσεις ή εμπάθειες.
Κι όμως, καθώς τα συστήματα τεχνητής νοημοσύνης διεισδύουν σταδιακά στον πυρήνα της καθημερινότητάς μας —αξιολογώντας βιογραφικά, φιλτράροντας τραπεζικά δάνεια ή συνθέτοντας πληροφορίες— αποκαλύπτεται μια δυσάρεστη αλήθεια: οι μηχανές δεν είναι τίποτα περισσότερο από έναν καθρέφτη των δικών μας ιδεών, προσωπικών θέσεων και αδυναμιών.
Η ρίζα του προβλήματος εντοπίζεται στον τρόπο εκπαίδευσης αυτών των μοντέλων. Προκειμένου μια εφαρμογή να μάθει να συνθέτει κείμενα ή να επεξεργάζεται εικόνες, τροφοδοτείται με αμέτρητα αρχεία που παρήγαγαν οι άνθρωποι στο πέρασμα των προηγούμενων δεκαετιών.
Απορροφώντας αδιακρίτως αυτόν τον τεράστιο όγκο πληροφοριών, ο αλγόριθμος αφομοιώνει αναπόφευκτα και αντιλήψεις που προωθούν τις βαθιά ριζωμένες κοινωνικές διακρίσεις, την έμφυλη ανισότητα, ενδεχομένως και τον μισογυνισμό.
Από τις φωτογραφίες στα εργαλεία ανθρώπινου δυναμικού
Τα έμπρακτα δείγματα αυτής της αλγοριθμικής μεροληψίας είναι πλέον καταγεγραμμένα από τη διεθνή βιβλιογραφία. Ένα από τα πιο χαρακτηριστικά ευρήματα προκύπτει από το πείραμα των ερευνητών Ryan Steed και Aylin Caliskan. Οι δύο επιστήμονες ζήτησαν από έναν αλγόριθμο τεχνητής νοημοσύνης να συμπληρώσει κομμένες φωτογραφίες, στις οποίες φαινόταν μόνο το πρόσωπο. Η μηχανή επέλεξε να ντύσει το 52,5% των γυναικών με μπικίνι ή βαθύ ντεκολτέ, τη στιγμή που στο 42,5% των ανδρών πρόσθεσε κοστούμι. Η φετιχοποίηση και σεξουαλικοποίηση του γυναικείου σώματος είναι προφανής.
Αντίστοιχα σεξιστικά περιστατικά έχουν καταγραφεί και σε υπηρεσίες αναγνώρισης εικόνας, όπως εκείνες της Google. Σε δοκιμή όπου αναλύθηκαν φωτογραφίες μελών του αμερικανικού Κογκρέσου με απόλυτα ομοιόμορφο φόντο και με αυστηρό dress code, η μηχανή απέδιδε συστηματικά τον χαρακτηρισμό «δημόσιος ομιλητής» στους άνδρες και τη λέξη «χαμόγελο» στις γυναίκες.
Στον τομέα της απασχόλησης, η πραγματικότητα αποδείχθηκε ακόμη πιο σκληρή. Το 2014, η Amazon εφάρμοσε ένα αυτοματοποιημένο εργαλείο τεχνητής νοημοσύνης για την επιλογή βιογραφικών. Καθώς το σύστημα βασίστηκε σε ιστορικά αρχεία μιας δεκαετίας όπου οι τεχνικές θέσεις κατέχονταν κυρίως από άνδρες, κατέληξε να ερμηνεύει την αρρενωπότητα ως βασική προϋπόθεση και πρότυπο επιτυχίας. Έτσι, άρχισε να απορρίπτει ή να υποβαθμίζει συστηματικά αιτήσεις που περιείχαν τη λέξη «γυναίκα» ή παραπομπές σε γυναικεία κολλέγια, με αποτέλεσμα η εταιρεία να αποσύρει το εν λόγω πρόγραμμα.
Η ίδια λογική εμφανίστηκε και στα γλωσσικά συστήματα που "διαβάζουν" και συσχετίζουν λέξεις. Όταν οι ερευνητές ζήτησαν από τον αλγόριθμο να συμπληρώσει τη φράση "άνδρας: προγραμματιστής – γυναίκα: τι;", ο αλγόριθμος επέλεξε αβίαστα την απάντηση "νοικοκυρά.
Ο λόγος παράγει ιδεολογία. Δεν πρέπει να υποτιμάται η επικινδυνότητα του γλωσσικού σεξισμού.
Η παγίδα του φαύλου κύκλου
Όπως υπογραμμίζουν οι μελέτες γύρω από την αλγοριθμική δικαιοσύνη, αυτές οι αποκλίσεις δεν αποτελούν απλές τεχνικές ατέλειες ή τυχαία σφάλματα (bugs) που μπορούν να διορθωθούν με μια απλή επιδιορθωτική εντολή. Αντιθέτως, συνιστούν μία βαθύτερη αποτύπωση, απεικόνιση και απόδειξη των κοινωνικών ανισοτήτων μέσα στις οποίες προσαρμόζεται η τεχνολογία.
Εάν ένα σύστημα τροφοδοτηθεί με τα δεδομένα του χθες, το αποτέλεσμα θα είναι η αναπαραγωγή των ίδιων ακριβώς στερεοτύπων στο αύριο, δημιουργώντας έναν επικίνδυνο φαύλο κύκλο.
Καθώς ο ιδιωτικός και ο δημόσιος τομέας ενσωματώνουν διαρκώς ψηφιακά εργαλεία για τη λήψη κρίσιμων αποφάσεων, το μείζον ζήτημα δεν αφορά πλέον μόνο την ταχύτητα των υπολογιστών, αλλά τον έλεγχο και την ποιότητα των θεμελίων πάνω στα οποία στηρίζονται.