Κενό ασφαλείας στην OpenAI έφτασε στο GitHub του ChatGPT

Η OpenAI αντιμετώπισε ένα κενό ασφαλείας που επέτρεψε σε τρεις ερευνητές της Hacktron AI να φτάσουν σε εσωτερικό αποθετήριο κώδικα της OpenAI. Η αλυσίδα ξεκίνησε από μια εικόνα HEIF στο φόρουμ της εταιρείας και αξιοποίησε τόσο τον τρόπο επεξεργασίας της όσο και μια λανθασμένη ρύθμιση SSO, ανοίγοντας δρόμο προς λογαριασμούς ChatGPT και Codex.

Η εταιρεία ενημερώθηκε από την ομάδα και έκλεισε το πρόβλημα μέσα σε 14 ώρες, καταβάλλοντας bug bounty 6.500 δολαρίων, περίπου 5.700 ευρώ. Το Discourse, η πλατφόρμα στην οποία λειτουργεί το community.openai.com, βαθμολόγησε το σφάλμα εικόνας με 8,8 στην κλίμακα CVSS και πρόσθεσε sandboxing στην επεξεργασία εικόνων ως δεύτερη γραμμή άμυνας.

Η αρχική είσοδος δεν βασίστηκε σε κάποια εξεζητημένη λειτουργία του ChatGPT. Ο έλεγχος εικόνων του Discourse, FastImage, δεν αναγνώριζε τη μορφή HEIF και άφηνε τη μετατροπή στην εντολή magick του ImageMagick. Εκεί εμπλεκόταν η βιβλιοθήκη libheif, η οποία είχε εγκατασταθεί μέσω Debian και περιείχε heap buffer overflow που είχε διορθωθεί την προηγούμενη χρονιά, χωρίς όμως να χαρακτηριστεί πιθανός κίνδυνος ασφαλείας.

Διαβάστε επίσης: Ερευνητές παραβίασαν την OpenAI με εργαλείο της Anthropic

Η Hacktron συνέδεσε στη συνέχεια το σφάλμα της βιβλιοθήκης με τη δεύτερη αδυναμία, αυτή τη φορά στη ρύθμιση SSO της OpenAI. Ένας λογαριασμός στην κοινότητα και η σύνδεση μέσω του φόρουμ αρκούσαν για να γίνει το community.openai.com πύλη προς λογαριασμούς ChatGPT και Codex. Οι ερευνητές έκαναν ένα pull στο εσωτερικό GitHub, το οποίο περιέγραψαν ως ακίνδυνο, μόνο για να αποδείξουν την πρόσβαση.

Η υπόθεση αποκτά μεγαλύτερο βάρος επειδή η ίδια ομάδα εντόπισε τους συγκεκριμένους αποκωδικοποιητές εικόνων και σε Slack, Meta και GitHub Enterprise. Αυτό δεν σημαίνει ότι όλες αυτές οι υπηρεσίες παραβιάστηκαν, δείχνει όμως πόσο ευρύτερο μπορεί να είναι το ρίσκο όταν μια βιβλιοθήκη εικόνων χρησιμοποιείται σε πολλές πλατφόρμες χωρίς επαρκή απομόνωση.

Οι τρεις ερευνητές συνεργάστηκαν αρχικά με το Claude Opus 4.8 της Anthropic και στη συνέχεια με το Opus 5. Σύμφωνα με τη δική τους αναφορά, η συγκεκριμένη αλυσίδα επίθεσης ολοκληρώθηκε σε λιγότερες από 72 ώρες. Η ευρύτερη έρευνα HEIF Heist, που περιλάμβανε και άλλες πλατφόρμες, διήρκεσε περίπου δύο μήνες και κόστισε λιγότερα από 3.000 δολάρια σε tokens. Η τεχνητή νοημοσύνη δεν δημιούργησε απαραίτητα την αλυσίδα από το μηδέν, αλλά βοήθησε μια μικρή ομάδα να κινηθεί με ρυθμό που συνήθως απαιτεί περισσότερα άτομα.

Η Hacktron συνέδεσε την εξήγησή της με το xkcd #2347, το κόμικ του Randall Munroe από το 2020, όπου η ψηφιακή υποδομή εξαρτάται από ένα μικρό, παραμελημένο εξάρτημα. Η αναφορά ταιριάζει στην υπόθεση: το κρίσιμο σημείο ήταν μια βιβλιοθήκη εικόνων που είχε μείνει χωρίς σωστή σήμανση ασφαλείας και μια ρύθμιση σύνδεσης που μετέτρεψε ένα φόρουμ σε διαδρομή προς εσωτερικά συστήματα.

Η γρήγορη διόρθωση και το sandboxing περιορίζουν άμεσα το συγκεκριμένο περιστατικό. Το πιο ανησυχητικό στοιχείο είναι ότι ένα γνωστό σφάλμα παρέμεινε για έναν χρόνο χωρίς να αντιμετωπιστεί ως πιθανό ζήτημα ασφαλείας, ενώ η εκμετάλλευσή του απαιτούσε τελικά μια εικόνα, μια λανθασμένη ρύθμιση και αλληλουχία δικαιωμάτων αντί για κάποιο εντυπωσιακό «σπάσιμο» του ίδιου του ChatGPT.

Η σύνταξη του άρθρου υποστηρίχθηκε από εργαλεία AI και το περιεχόμενο ελέγχθηκε σύμφωνα με τη συντακτική πολιτική του TechitNews.