Ερευνητές παραβίασαν την OpenAI με εργαλείο της Anthropic

Ερευνητές κυβερνοασφάλειας παραβίασαν την OpenAI χρησιμοποιώντας το Claude της ανταγωνίστριας Anthropic, σε ένα περιστατικό που ανέδειξε αδυναμίες στην ασφάλεια της εταιρείας πίσω από το ChatGPT. Μια μικρή ομάδα απέκτησε πρόσβαση στον λογαριασμό ChatGPT υπαλλήλου της OpenAI και μπόρεσε να διαβάσει ιδιωτικές πληροφορίες λογισμικού, αλλά και να προτείνει αλλαγές.

Η πρόσβαση δεν προέκυψε από επίθεση στο ίδιο το μοντέλο. Οι ερευνητές εκμεταλλεύτηκαν πρόβλημα στη ρύθμιση του κοινοτικού φόρουμ της OpenAI, το οποίο φιλοξενείται από την Discourse, και μέσω αυτού έφτασαν σε εσωτερικές συνδέσεις και τελικά στον λογαριασμό του υπαλλήλου.

Ο συγκεκριμένος λογαριασμός είχε πρόσβαση σε εσωτερικό κώδικα μέσω του GitHub. Η αλυσίδα αυτή κάνει το περιστατικό πιο ουσιαστικό από μια απλή παραβίαση λογαριασμού: ένα εξωτερικό φόρουμ συνδέθηκε με διαπιστευτήρια και εργαλεία που οδηγούσαν σε εσωτερικές πληροφορίες της OpenAI.

Διαβάστε επίσης: Η Anthropic ενώνει το Claude Cowork με το chat σε ένα Claude

Η ομάδα είχε λάβει πρόσβαση σε εργαλείο της Anthropic που σχεδιάστηκε ειδικά για επαγγελματίες κυβερνοασφάλειας. Παράλληλα, πληρώθηκε στο πλαίσιο προγράμματος που είχε στόχο να εντοπίζει ευπάθειες πριν τις αξιοποιήσουν κακόβουλοι παράγοντες. Η ειρωνεία είναι ότι το εργαλείο του άμεσου ανταγωνιστή χρησιμοποιήθηκε για τον έλεγχο της ασφάλειας της OpenAI.

Η OpenAI ευχαρίστησε τους ερευνητές για την ενημέρωση και δήλωσε ότι διόρθωσε τα προβλήματα. Η Anthropic δεν σχολίασε, ενώ η αποκάλυψη, που μεταδόθηκε αρχικά από τη Wall Street Journal, έρχεται σε περίοδο αυξημένου ελέγχου των εταιρειών τεχνητής νοημοσύνης για τις πρακτικές ασφάλειας και εποπτείας τους.

Το περιστατικό συμπίπτει με νέα δεδομένα της Anthropic για τον ρόλο του Claude στην ανάπτυξη των μοντέλων της. Η εταιρεία ανέφερε ότι το 26% της ερευνητικής και αναπτυξιακής εργασίας ήταν «καθοδηγούμενο» από το Claude, έναντι 1% τον Μάρτιο, με την τεχνητή νοημοσύνη να εκτελεί το μεγαλύτερο μέρος των εργασιών υπό ανθρώπινη οδηγία και επίβλεψη.

Η Anthropic υποστηρίζει ότι τα μοντέλα της χρησιμοποιούνται όλο και περισσότερο για την κατασκευή της επόμενης γενιάς μοντέλων, συνδέοντας την τάση με τη συζήτηση για την «αναδρομική αυτοβελτίωση». Ωστόσο, διευκρίνισε ότι κανένα από τα μοντέλα δεν λειτουργούσε πλήρως αυτόνομα στις εργασίες που εξετάστηκαν· στο 90% των περιπτώσεων συνεργαζόταν με άνθρωπο και αναλάμβανε μεγάλα τμήματα της δουλειάς.

Το άμεσο αποτέλεσμα για την OpenAI είναι ότι οι συγκεκριμένες ευπάθειες έχουν διορθωθεί. Το ευρύτερο ζήτημα, όμως, βρίσκεται στη σύνδεση εξωτερικών υπηρεσιών, λογαριασμών και αποθετηρίων κώδικα: ακόμη και όταν το μοντέλο χρησιμοποιείται ως εργαλείο ελέγχου, η ασφάλεια εξαρτάται από ολόκληρη την υποδομή γύρω του.

Η σύνταξη του άρθρου υποστηρίχθηκε από εργαλεία AI και το περιεχόμενο ελέγχθηκε σύμφωνα με τη συντακτική πολιτική του TechitNews.