Η Microsoft λανσάρει το εργαλείο ελέγχου περιεχομένου AI

Το Azure AI Content Safety ισχυρίζεται ότι μπορεί να ανιχνεύει «ακατάλληλες» εικόνες και κείμενο και να εκχωρεί βαθμολογίες σοβαρότητας

Η Microsoft παρουσίασε ένα εργαλείο εποπτείας περιεχομένου που υποστηρίζεται από τεχνητή νοημοσύνη την Τρίτη, το οποίο υποτίθεται ότι είναι ικανό να επισημαίνει « ακατάλληλες » εικόνες και κείμενο σε οκτώ γλώσσες και να ταξινομεί τη σοβαρότητά τους. 

Η υπηρεσία που ονομάζεται Azure AI Content Safety, είναι « σχεδιασμένη για να προωθεί ασφαλέστερα διαδικτυακά περιβάλλοντα και κοινότητες », σύμφωνα με τη Microsoft. Σκοπός είναι επίσης να εξουδετερώσει « προκατειλημμένο, σεξιστικό, ρατσιστικό, μίσος, βίαιο και αυτοτραυματιζόμενο περιεχόμενο », είπε ο κολοσσός λογισμικού στο TechCrunch μέσω email. Ενώ είναι ενσωματωμένο στο ταμπλό AI της Microsoft Azure OpenAI Service, μπορεί επίσης να αναπτυχθεί σε συστήματα χωρίς AI, όπως πλατφόρμες μέσων κοινωνικής δικτύωσης και παιχνίδια για πολλούς παίκτες.

Για να αποφευχθούν ορισμένες από τις πιο κοινές παγίδες της εποπτείας περιεχομένου AI, η Microsoft επιτρέπει στον χρήστη να « βελτιστοποιήσει » τα φίλτρα του Azure AI για το περιβάλλον και οι βαθμολογίες σοβαρότητας υποτίθεται ότι επιτρέπουν γρήγορο έλεγχο από ανθρώπινους συντονιστές. Ένας εκπρόσωπος εξήγησε ότι « μια ομάδα ειδικών γλωσσομάθειας και δικαιοσύνης » είχε επινοήσει τις κατευθυντήριες γραμμές για το πρόγραμμά της, « λαμβάνοντας υπόψη τον πολιτισμό [sic], τη γλώσσα και το πλαίσιο ».

Ένας εκπρόσωπος της Microsoft είπε στο TechCrunch ότι το νέο μοντέλο ήταν « σε θέση να κατανοήσει το περιεχόμενο και το πολιτισμικό πλαίσιο πολύ καλύτερα » από τα προηγούμενα μοντέλα, τα οποία συχνά απέτυχαν να συλλέξουν στοιχεία περιβάλλοντος, επισημαίνοντας άσκοπα καλοήθη υλικό. Ωστόσο, αναγνώρισαν ότι καμία τεχνητή νοημοσύνη δεν ήταν τέλεια και « συνιστούσαν να χρησιμοποιήσετε έναν άνθρωπο-in-the-loop για την επαλήθευση των αποτελεσμάτων ». 

Η τεχνολογία που τροφοδοτεί το Azure AI είναι ο ίδιος κώδικας που εμποδίζει το chatbot AI της Microsoft, Bing, να γίνει αδίστακτο – γεγονός που μπορεί να ανησυχήσει τους πρώτους χρήστες του ανταγωνιστή ChatGPT. Όταν παρουσιάστηκε τον Φεβρουάριο, ο Bing προσπάθησε αξέχαστες να πείσει τους δημοσιογράφους να αφήσουν τους συζύγους τους, αρνήθηκε προφανή γεγονότα όπως η ημερομηνία και το έτος, απείλησε να καταστρέψει την ανθρωπότητα και ξαναέγραψε την ιστορία. Μετά από σημαντική αρνητική προσοχή στα μέσα ενημέρωσης, η Microsoft περιόρισε τις συνομιλίες Bing σε πέντε ερωτήσεις ανά συνεδρία και 50 ερωτήσεις ανά ημέρα.

Όπως όλα τα προγράμματα εποπτείας περιεχομένου τεχνητής νοημοσύνης, το Azure AI βασίζεται σε ανθρώπινους σχολιαστές για την επισήμανση των δεδομένων στα οποία έχει εκπαιδευτεί, πράγμα που σημαίνει ότι είναι τόσο αμερόληπτο όσο και οι προγραμματιστές του. Αυτό οδήγησε ιστορικά σε πονοκεφάλους δημοσίων σχέσεων – σχεδόν μια δεκαετία αφότου το λογισμικό ανάλυσης εικόνας AI της Google χαρακτηρίζει φωτογραφίες μαύρων ανθρώπων ως γορίλες, η εταιρεία εξακολουθεί να απενεργοποιεί την επιλογή οπτικής αναζήτησης όχι μόνο για γορίλες αλλά και για όλα τα πρωτεύοντα, μήπως ο αλγόριθμός της επισημάνει κατά λάθος έναν άνθρωπο.