Hugging Face επιτρέπει τη δημιουργία μη συναίνεσης deepfakes με αφαίρεση ρούχων.

Η πλατφόρμα ανοιχτού κώδικα Hugging Face, γνωστή για τη φιλοξενία μοντέλων τεχνητής νοημοσύνης, βρίσκεται στο επίκεντρο κριτικής λόγω της έλλειψης επαρκών περιορισμών που αποτρέπουν κακόβουλες χρήσεις. Μια νέα έκθεση της ευρωπαϊκής μη κερδοσκοπικής οργάνωσης AI Forensics αποκαλύπτει ότι η πλατφόρμα επιτρέπει τη δημιουργία μη συναίνεσης deepfakes, ειδικά μέσω εργαλείων αφαίρεσης ρούχων σε φωτογραφίες.

Συγκεκριμένα, η έρευνα διαπιστώνει ότι επτά από τα εννέα κορυφαία μοντέλα επεξεργασίας εικόνας που φιλοξενούνται στο Hugging Face διευκολύνουν την αφαίρεση ρούχων σε φωτογραφίες χωρίς τη συγκατάθεση των ατόμων. Αυτό αναδεικνύει ένα σοβαρό κενό στην εποπτεία και τη διαχείριση των εργαλείων τεχνητής νοημοσύνης που μπορεί να θέσει σε κίνδυνο την ιδιωτικότητα και την ασφάλεια των χρηστών.

Η χρήση τέτοιων αλγορίθμων αυξάνει τον κίνδυνο δημιουργίας deepfakes που στοχεύουν ευάλωτες ομάδες, όπως γυναίκες και παιδιά, επιδεινώνοντας τα ηθικά και νομικά ζητήματα γύρω από την τεχνητή νοημοσύνη και την επεξεργασία εικόνας. Η απουσία αποτελεσματικών φίλτρων ή πολιτικών στην πλατφόρμα αφήνει ανοιχτό το περιθώριο για καταχρήσεις.

Παρά τη σημασία του Hugging Face ως κόμβου για την ανάπτυξη και διάθεση μοντέλων AI, η περίπτωση αυτή αναδεικνύει τις προκλήσεις που προκύπτουν από το ανοιχτό μοντέλο διανομής χωρίς επαρκείς μηχανισμούς ελέγχου περιεχομένου. Η ευκολία πρόσβασης και χρήσης των εργαλείων μπορεί να οδηγήσει σε σοβαρές ηθικές δυσκολίες για την κοινότητα.

Η έκθεση της AI Forensics υπογραμμίζει την ανάγκη για πιο αυστηρή εποπτεία και ρύθμιση των μοντέλων που διατίθενται δημόσια, ώστε να περιοριστεί η δημιουργία και διασπορά μη ηθικών deepfakes. Καλεί επίσης τις πλατφόρμες και την κοινότητα της τεχνητής νοημοσύνης να επανεξετάσουν τα κριτήρια φιλοξενίας και τις πολιτικές χρήσης προς αυτή την κατεύθυνση.

Η διαφάνεια και η υπευθυνότητα στην ανάπτυξη και διάθεση τεχνητής νοημοσύνης παραμένουν βασικές προκλήσεις, ειδικά σε περιπτώσεις όπου η τεχνολογία μπορεί να χρησιμοποιηθεί για παραβίαση της ιδιωτικότητας και δημιουργία επιβλαβούς περιεχομένου, όπως αποδεικνύει η περίπτωση του Hugging Face.

Πηγή: Hugging Face is being used to easily undress women and children

Η σύνταξη του άρθρου υποστηρίχθηκε από εργαλεία AI και το περιεχόμενο ελέγχθηκε σύμφωνα με τη συντακτική πολιτική του TechitNews.