Google κλείνει το Perspective API: Τι αλλάζει από 1η Ιανουαρίου

Η Google κλείνει το Perspective API στις 31 Δεκεμβρίου, με αποτέλεσμα κάθε σύστημα εποπτείας περιεχομένου που το καλεί να σταματήσει να λειτουργεί από την 1η Ιανουαρίου. Η υπηρεσία της μονάδας Jigsaw χρησιμοποιήθηκε για να βαθμολογεί τον βαθμό τοξικότητας σε σχόλια και η διακοπή της αφήνει πλατφόρμες, εκδότες, αγορές και διαδικτυακές κοινότητες μπροστά σε ένα άμεσο τεχνικό δίλημμα: γρήγορη αντικατάσταση ή ανασχεδιασμός της εποπτείας τους.

Το Perspective αξιολογούσε κυρίως το πώς «ακούγεται» ένα σχόλιο στην επιφάνεια. Η προσέγγιση αυτή λειτουργεί σχετικά καλά σε προφανείς προσβολές, αλλά δυσκολεύεται όταν το επιβλαβές μήνυμα κρύβεται πίσω από κώδικες, υπαινιγμούς ή φαινομενικά αθώα γλώσσα. Η αποχώρηση της υπηρεσίας, επομένως, δεν είναι απλώς αλλαγή ενός API: αναγκάζει τις ομάδες που βασίζονταν σε αυτήν να επανεξετάσουν τι ακριβώς μετρούσαν ως κίνδυνο.

Η Hindsight AI θέλει να καλύψει αυτό το κενό, αλλά δεν προτείνει μια απλή μεταφορά σε άλλο μοντέλο. Η εταιρεία υποστηρίζει ότι η «κωδικοποιημένη γλώσσα» είναι πλέον ένας νέος τρόπος χρήσης προσβλητικών εκφράσεων και ότι μια λύση ίδιας λογικής μπορεί απλώς να μεταφέρει τα τυφλά σημεία του Perspective σε διαφορετικό προμηθευτή. Το ενδιαφέρον της πρότασης βρίσκεται στην προσπάθεια να συνδεθεί η εποπτεία με συγκεκριμένη ευθύνη και όχι μόνο με μια τεχνική βαθμολογία.

Διαβάστε επίσης: Ο πρώην επικεφαλής επιστήμης της OpenAI ιδρύει τη Warp Sciences

Η Hindsight αναφέρει ότι δοκίμασε εννέα μοντέλα εποπτείας AI από εταιρείες όπως οι Mistral, OpenAI, Meta, Azure και AWS, χρησιμοποιώντας 2.205 πραγματικές διαδικτυακές αναρτήσεις. Άνθρωποι αξιολόγησαν κάθε ανάρτηση ως Red Flag, Yellow Flag ή Safe, ενώ οι παραλλαγές της Hindsight δεν είχαν δει το συγκεκριμένο σύνολο κατά την ανάπτυξη ή την εκπαίδευσή τους. Η διαδικασία αυτή δίνει ένα σαφέστερο σημείο σύγκρισης από μια γενική υπόσχεση ακρίβειας, χωρίς όμως να αποτελεί από μόνη της εγγύηση για κάθε κοινότητα.

Η εκπαίδευση βασίστηκε σε 83 MB πραγματικών αναρτήσεων από 18 σύνολα δεδομένων, με περίπου 292.000 αναρτήσεις αξιολογημένες από ανθρώπους. Η εταιρεία παρακολούθησε 164 εκπαιδευμένες παραλλαγές και προώθησε την καλύτερη ως «Champion». Οι αριθμοί περιγράφουν μια περιορισμένη και στοχευμένη προσέγγιση, όχι ένα μοντέλο που υποτίθεται ότι έχει μάθει κάθε μορφή διαδικτυακής συμπεριφοράς· η ποιότητα της εποπτείας θα συνεχίσει να εξαρτάται από τη γλώσσα, την κοινότητα και τα περιστατικά που πρέπει να αναγνωριστούν.

Η πιο ασυνήθιστη υπόσχεση αφορά την κάλυψη ευθύνης. Αν το μοντέλο της Hindsight χαρακτηρίσει μια ανάρτηση ως Safe και αυτή οδηγήσει σε τεκμηριωμένο περιστατικό νομικής ευθύνης, ο πελάτης μπορεί να λάβει οικονομική υποστήριξη έως 1 εκατομμύριο δολάρια. Πρόκειται για διαφορετικό μοντέλο πώλησης σε μια αγορά όπου η εποπτεία περιεχομένου συνήθως αντιμετωπίζεται ως κόστος μείωσης κινδύνου, χωρίς αντίστοιχη εγγύηση αποτελέσματος.

Το ζήτημα έχει και ευρύτερο πρακτικό βάρος: η πηγή επικαλείται τουλάχιστον 6,2 εκατομμύρια δολάρια που συγκεντρώθηκαν από εξτρεμιστές σε 324 εκστρατείες crowdfunding από το 2016 έως τα μέσα του 2022, καθώς και περιπτώσεις όπου ανεπαρκείς δικλίδες ασφαλείας συνδέθηκαν με βλάβη σε νεαρούς χρήστες. Αυτά τα παραδείγματα εξηγούν γιατί η αντικατάσταση του Perspective δεν είναι απλώς εργασία συντήρησης για τις ομάδες ανάπτυξης.

Για τις επιχειρήσεις που χρειάζονται άμεση μετάβαση, η Hindsight παρουσιάζει τη λύση της ως αλλαγή ενός API call. Το κρίσιμο σημείο, ωστόσο, δεν είναι μόνο η ταχύτητα ενσωμάτωσης, αλλά το αν ένα νέο σύστημα μπορεί να εντοπίζει περιεχόμενο που τα προηγούμενα εργαλεία δεν είχαν σχεδιαστεί να βλέπουν. Από την 1η Ιανουαρίου, η διακοπή του Perspective θα μετατρέψει αυτή την υπόσχεση σε πραγματική δοκιμή για κάθε πλατφόρμα που πρέπει να επιλέξει διάδοχο.

Η σύνταξη του άρθρου υποστηρίχθηκε από εργαλεία AI και το περιεχόμενο ελέγχθηκε σύμφωνα με τη συντακτική πολιτική του TechitNews.