OpenAI: διαρροή αποκαλύπτει Anthropic και fundamental.

Ερευνητές υποστηρίζουν ότι τα LLMs δεν μπορούν να γίνουν πλήρως ασφαλή λόγω της βασικής αρχιτεκτονικής τους.

Κατά την έρευνα, οι LLMs δεν μπορούν να γίνουν απολύτως ασφαλείς ενάντια σε κακόβουλες επιθέσεις, καθώς το πρόβλημα είναι εγγενές στον τρόπο που λειτουργούν και όχι αποτέλεσμα ελλείψεων εκπαίδευσης ή δοκιμών.

Η βασική αιτία της ευπάθειας σχετίζεται με τον τρόπο που τα μοντέλα αναγνωρίζουν τις εντολές: δεν βασίζονται σε σαφείς ετικέτες ή μεταδεδομένα, αλλά ερμηνεύουν ποιος δίνει την εντολή από το ύφος του κειμένου. Αυτό επιτρέπει σε επιτιθέμενους να μιμηθούν οποιοδήποτε ρόλο απλώς μιμούμενοι το στυλ γραφής, παρακάμπτοντας έτσι τους μηχανισμούς ελέγχου.

Τα αποτελέσματα της μελέτης είναι ανησυχητικά, αφού οι ερευνητές κατάφεραν να εξάγουν από τα μοντέλα οδηγίες για παράνομες δραστηριότητες, όπως η παρασκευή κοκαΐνης ή η υπονόμευση συστημάτων πλοήγησης αεροσκαφών. Η ευπάθεια αυτή έχει εντοπιστεί σε μοντέλα κορυφαίων εταιρειών όπως η OpenAI, Anthropic, Alibaba και DeepSeek.

Η μελέτη καταλήγει σε μια απαισιόδοξη σύσταση: οι LLMs δεν μπορούν να θεωρούνται απόλυτα αξιόπιστοι και κάθε ενέργεια που πραγματοποιούν μέσω AI θα πρέπει να αντιμετωπίζεται ως δυνητικά επικίνδυνη. Αυτό θέτει σημαντικές προκλήσεις για την ανάπτυξη και χρήση τεχνολογιών τεχνητής νοημοσύνης σε κρίσιμους τομείς.

Η έλλειψη μιας τεχνικής λύσης που να επιδιορθώνει αυτή τη βασική αδυναμία σημαίνει πως οι εταιρείες και οι χρήστες θα πρέπει να επανεξετάσουν τα πρωτόκολλα ασφαλείας και τις πρακτικές ελέγχου των συστημάτων AI. Η ευθύνη μετατίθεται στον χειριστή και στον σχεδιαστή εφαρμογών να διαχειριστούν τις πιθανές απειλές με επιπλέον μέτρα.

Αν και η τεχνητή νοημοσύνη εξελίσσεται ταχύτατα, αυτή η έρευνα υπενθυμίζει ότι ορισμένα θεμελιώδη προβλήματα μπορεί να παραμένουν ανεπίλυτα, επηρεάζοντας άμεσα την ασφάλεια και την αξιοπιστία των εφαρμογών AI στο μέλλον.

Πηγή: A fundamental flaw leaves LLMs strikingly vulnerable to attack

Η σύνταξη του άρθρου υποστηρίχθηκε από εργαλεία AI και το περιεχόμενο ελέγχθηκε σύμφωνα με τη συντακτική πολιτική του TechitNews.