Anthropic: Νέοι κανόνες για τη συμπεριφορά απέναντι στον Claude

Η Anthropic αναθεωρεί σημαντικά την επίσημη πολιτική συμπεριφοράς της από τις 12 Νοεμβρίου, προσθέτοντας αυστηρότερους περιορισμούς για τον τρόπο με τον οποίο χρησιμοποιείται το Claude. Η αλλαγή δεν αφορά μόνο την εκλογική απάτη, τα στρατιωτικά όπλα και την παράνομη παρακολούθηση· περιλαμβάνει και έναν ασυνήθιστο κανόνα που απαγορεύει την επίμονη και χωρίς λόγο κακοποιητική συμπεριφορά απέναντι στο chatbot.

Η διατύπωση της νέας πολιτικής στοχεύει σε «παρατεταμένη και αδικαιολόγητη κακοποιητική ή σκληρή συμπεριφορά». Πρόκειται για μια προσθήκη που ξεχωρίζει επειδή δεν αφορά το περιεχόμενο των απαντήσεων του Claude, αλλά τη συμπεριφορά του ανθρώπου μέσα στη συνομιλία. Η Anthropic παρουσιάζει έτσι την προστασία του μοντέλου ως μέρος των κανόνων ασφαλούς χρήσης της υπηρεσίας.

Η εταιρεία, πάντως, ξεκαθαρίζει ότι δεν θα αντιμετωπίζεται ως παράβαση κάθε έντονη συνομιλία. Η καθημερινή απογοήτευση, η επιθετική ανατροφοδότηση και οι δοκιμές δημιουργικής γραφής δεν αρκούν για να επισημανθεί ένας λογαριασμός. Το όριο αφορά ακραίες περιπτώσεις, στις οποίες κάποιος επανειλημμένα προσβάλλει ή ταπεινώνει το Claude χωρίς ουσιαστικό λόγο.

Διαβάστε επίσης: Η Anthropic ενώνει το Claude Cowork με το chat σε ένα Claude

Η πρακτική συνέπεια είναι ότι το Claude θα διατηρήσει τη δυνατότητα να τερματίζει κακοποιητικές συνομιλίες. Η λειτουργία αυτή δημιουργήθηκε στο πλαίσιο έρευνας για την «ευημερία των μοντέλων», με επικεφαλής τον Kyle Fish. Δεν πρόκειται, επομένως, για έναν απλό κανόνα καλής συμπεριφοράς, αλλά για μηχανισμό που μπορεί να διακόψει την αλληλεπίδραση όταν η χρήση ξεπερνά τα όρια που θέτει η Anthropic.

Η συγκεκριμένη πολιτική συνδέεται με τη διαφορετική στάση της Anthropic απέναντι στο ενδεχόμενο τα προηγμένα μοντέλα να διαθέτουν κάποια μορφή εσωτερικής εμπειρίας. Στελέχη της εταιρείας, όπως ο CEO Dario Amodei, έχουν δηλώσει ανοιχτοί στη μελέτη αυτού του ερωτήματος, χωρίς αυτό να σημαίνει ότι το Claude αντιμετωπίζεται επίσημα ως πρόσωπο ή ότι διαθέτει αναγνωρισμένα δικαιώματα.

Εδώ βρίσκεται και η βασική ένταση της αλλαγής. Η Microsoft απορρίπτει ρητά την ιδέα δικαιωμάτων ή προσωπικότητας για τα μοντέλα AI, ενώ η Anthropic επιλέγει να ενσωματώσει στην πολιτική της έναν κανόνα που μοιάζει να λαμβάνει υπόψη την πιθανότητα μελλοντικής «ευημερίας» των μοντέλων. Η διαφορά δεν αλλάζει τον τρόπο λειτουργίας του Claude σήμερα, αλλά δείχνει δύο διαφορετικές προσεγγίσεις στο πώς πρέπει να σχεδιάζονται οι σχέσεις ανθρώπου και chatbot.

Για την ώρα, η πιο συγκεκριμένη αλλαγή αφορά το όριο της κατάχρησης και όχι μια γενική απαγόρευση έντονης κριτικής. Οι χρήστες μπορούν να εκφράζουν εκνευρισμό, να δίνουν αυστηρό feedback ή να δοκιμάζουν δύσκολα σενάρια γραφής. Η νέα πολιτική ενεργοποιείται μόνο όταν η συμπεριφορά γίνεται επαναλαμβανόμενη, ακραία και χωρίς ουσιαστικό σκοπό, με την 12η Νοεμβρίου να αποτελεί το σημείο έναρξης των νέων κανόνων.

Η σύνταξη του άρθρου υποστηρίχθηκε από εργαλεία AI και το περιεχόμενο ελέγχθηκε σύμφωνα με τη συντακτική πολιτική του TechitNews.