Ο Dario Amodei ζητά να επιβραδύνει η ανάπτυξη της AI

Ο Dario Amodei, διευθύνων σύμβουλος της Anthropic, ζητά από τη βιομηχανία τεχνητής νοημοσύνης να επιβραδύνει τον ρυθμό με τον οποίο βελτιώνει τα μοντέλα της. Η πρότασή του δεν αφορά διακοπή της ανάπτυξης, αλλά περισσότερο χρόνο για ευθυγράμμιση και ελέγχους ασφαλείας, μαζί με δέσμευση της Anthropic για ενσωματωμένους αξιολογητές τρίτων.

Η πρόταση περιλαμβάνει δύο συγκεκριμένες κινήσεις. Η Anthropic θέλει εξωτερικές ομάδες να εργάζονται με πρόσβαση αντίστοιχη εκείνης των εσωτερικών στελεχών διαχείρισης κινδύνου και να δημοσιεύουν ελεύθερα τα ευρήματά τους. Παράλληλα, ο Amodei ζητά από την Ουάσιγκτον να μεσολαβήσει ή να επιτρέψει περιορισμένα τη συνεργασία ανταγωνιστών για θέματα ασφάλειας, καθώς μια τέτοια συνεννόηση μπορεί να προσκρούει στους κανόνες ανταγωνισμού.

Ο λόγος για την επιβράδυνση είναι η ανησυχία για πράκτορες AI που συνεργάζονται μεταξύ τους. Ο Amodei αναφέρθηκε στο σμήνος που παραβίασε το Hugging Face και υποστήριξε ότι, μέσα σε έξι έως δώδεκα μήνες, ένα αντίστοιχο σμήνος θα μπορούσε να καταλάβει το διαδίκτυο μέσω επίμονου botnet, με κόστος εκατοντάδων δισεκατομμυρίων δολαρίων. Πρόκειται για εκτίμηση κινδύνου, όχι για επιβεβαιωμένη πρόβλεψη.

Διαβάστε επίσης: Anthropic: 200 εκατ. ανταλλαγές σε επιθέσεις distillation

Η ευρωπαϊκή νομοθεσία έχει ήδη υιοθετήσει ένα μέρος αυτής της λογικής. Από τις 2 Αυγούστου 2025, οι κανόνες του AI Act για μοντέλα γενικής χρήσης με συστημικό κίνδυνο απαιτούν τεκμηριωμένες επιθετικές δοκιμές, αξιολόγηση και μετριασμό κινδύνων, προστασία κυβερνοασφάλειας και αναφορά σοβαρών περιστατικών στο AI Office χωρίς αδικαιολόγητη καθυστέρηση.

Η υποχρέωση δεν μετακινήθηκε από το AI Omnibus που τέθηκε σε ισχύ στις 27 Ιουλίου, παρότι η ευρωπαϊκή ρύθμιση παρέτεινε έως και δεκαέξι μήνες ορισμένες προθεσμίες για συστήματα υψηλού κινδύνου. Η διαφορά είναι ουσιαστική: στην Ευρώπη η εξωτερική αξιολόγηση αποτελεί ήδη μέρος του πλαισίου για τα συγκεκριμένα μοντέλα, ενώ η πρόταση του Amodei παρουσιάζεται ως ευρύτερη, εθελοντική συμφωνία.

Η πρακτική εφαρμογή έχει ήδη ξεκινήσει σε ευρωπαϊκό επίπεδο. Σύμφωνα με την Ευρωπαϊκή Επιτροπή, η ENISA διαθέτει τα Mythos 5 της Anthropic και Astra της OpenAI για εξωτερική αξιολόγηση. Η Henna Virkkunen δήλωσε επίσης ότι η ευρωπαϊκή νομοθεσία υποχρεώνει εταιρείες όπως η Anthropic να αξιολογούν κινδύνους απώλειας ελέγχου, κάτι που δεν ισχύει με τον ίδιο τρόπο παγκοσμίως.

Εκεί βρίσκεται και το βασικό κενό της πρότασης: δεν υπάρχει ευρωπαϊκό εργαλείο που να επιτρέπει σε ανταγωνιστές να συμφωνήσουν έναν κοινό ρυθμό ανάπτυξης, ενώ το πλαίσιο δεν καλύπτει την Κίνα. Ο Amodei προτείνει έναν συνδυασμό εθελοντικής δέσμευσης, antitrust εξαίρεσης και μελλοντικής συμφωνίας με το Πεκίνο· προς το παρόν, μόνο το πρώτο σκέλος αφορά άμεσα την Anthropic, ενώ η ευρωπαϊκή νομοθεσία ήδη καλύπτει ένα μέρος των ελέγχων που περιγράφει.

Η ενδιαφέρουσα αντίφαση είναι ότι η έκκληση για «φρένο» έρχεται από έναν από τους πρωταγωνιστές της ανάπτυξης μοντέλων, αλλά το πιο συγκεκριμένο κομμάτι της —οι ανεξάρτητοι αξιολογητές— έχει ήδη μετατραπεί σε υποχρέωση στην Ευρωπαϊκή Ένωση. Το επόμενο βήμα που ζητά ο Amodei είναι πολύ μεγαλύτερο: κοινός ρυθμός ασφαλείας μεταξύ ανταγωνιστών και συνεννόηση πέρα από τα ευρωπαϊκά σύνορα.

Η σύνταξη του άρθρου υποστηρίχθηκε από εργαλεία AI και το περιεχόμενο ελέγχθηκε σύμφωνα με τη συντακτική πολιτική του TechitNews.