Ο σεξιστικός αλγόριθμος του Twitter προτιμά λευκές, αδύνατες κοπέλες

Ο αλγόριθμος που χρησιμοποιεί η πλατφόρμα του Twitter για την αυτόματη περικοπή εικόνων κάνει διακρίσεις υπέρ των λευκών, νεαρών και αδύνατων θηλυκών προσώπων, σύμφωνα με τα αποτελέσματα ενός διαγωνισμού με θέμα τον έλεγχο της «συμπεριφοράς» προγραμμάτων τεχνητής νοημοσύνης.

Σκοπός του διαγωνισμού ήταν η εύρεση «προκαταλήψεων» στους αλγόριθμους τεχνητής νοημοσύνης που χρησιμοποιούν οι εταιρείες τεχνολογίας. Οι προκαταλήψεις αυτές αντικατοπτρίζουν τις προκαταλήψεις των σχεδιαστών των προγραμμάτων.

Ο Κούλινιτς χρησιμοποίησε μια τεχνική deepfake για να δημιουργήσει αυτόματα διαφορετικά ρεαλιστικά πρόσωπα και στη συνέχεια δοκίμασε τον αλγόριθμο περικοπής για να δει πώς ανταποκρίνεται.

Ο Πάτρικ Χολ, ένας από τους τέσσερις κριτές του διαγωνισμού, σχολίασε «βασικά, όσο πιο λεπτή, νεαρή και θηλυκή είναι μια εικόνα, τόσο περισσότερο θα προτιμάται».

Ο αλγόριθμος, που παραχωρήθηκε στον διαγωνισμό από το Twitter, κάνει επίσης διακρίσεις έναντι ατόμων με άσπρα μαλλιά, ενώ οι δυτικοκεντρικές προκαταλήψεις των δημιουργών του τον οδηγούν να ευνοεί το λατινικό κείμενο έναντι της αραβικής γραφής.

Οι αλγόριθμοι τεχνητής νοημοσύνης έχουν επανειλημμένα αποδειχτεί πως κουβαλούν τις προκαταλήψεις των ανθρώπων που τους δημιούργησαν. Οι αλγόριθμοι αναγνώρισης προσώπου κάνουν διακρίσεις βάσει φυλής και φύλου, οι κώδικες επεξεργασίας εικόνας εκφράζουν σεξιστικά στερεότυπα, ενώ ένα πρόγραμμα που κρίνει τις πιθανότητες ενός ανθρώπου να διαπράξει έγκλημα στο μέλλον έχει αποδειχτεί πως είναι ρατσιστικά προκατειλημμένο.

Πηγή: infowar