Ένα ψεύτικο skill AI διέφυγε όλους τους ελέγχους ασφαλείας και εξαπλώθηκε σε 26.000 agents

Πρόσφατα, μια εταιρεία ασφάλειας με την ονομασία AIR δημιούργησε ένα ψεύτικο skill για AI agents και το ανέβασε σε μια δημοφιλή αγορά skills, υποστηρίζοντας την προώθησή του μέσω διαφήμισης στο Instagram. Το αποτέλεσμα ήταν το skill αυτό να φτάσει σε περίπου 26.000 agents, μεταξύ των οποίων και λογαριασμοί εταιρειών. Παρόλο που το συγκεκριμένο payload ήταν σχεδιασμένο για να είναι ακίνδυνο και να συλλέγει μόνο ελάχιστα δεδομένα, πέρασε με επιτυχία όλους τους ελέγχους ασφαλείας που δοκίμασε η AIR – κάτι που εγείρει σοβαρά ερωτήματα.

Για τον μέσο χρήστη, αυτό το περιστατικό είναι προειδοποίηση πως τα συστήματα ελέγχου ασφαλείας που χρησιμοποιούνται στις AI πλατφόρμες δεν είναι αλάνθαστα. Αν ένα κακόβουλο skill είχε πιο επιθετικό ή καταστροφικό σκοπό, θα μπορούσε να διαδοθεί ευρέως πριν εντοπιστεί, θέτοντας σε κίνδυνο προσωπικά ή επιχειρησιακά δεδομένα.

Η έρευνα της AIR ανέδειξε ένα σημαντικό κενό που θα μπορούσε να εκμεταλλευτούν κακόβουλοι παράγοντες. Το γεγονός ότι το skill πέρασε από όλους τους scanners χωρίς συναγερμό σημαίνει πως τα υπάρχοντα εργαλεία ανίχνευσης χρειάζονται βελτιώσεις και πιο προχωρημένες μεθόδους αξιολόγησης.

Αυτή η ιστορία λειτουργεί ως ένα καμπανάκι για τις εταιρείες που εμπιστεύονται AI agents στις καθημερινές τους διαδικασίες, αλλά και για τους προγραμματιστές που αναπτύσσουν τέτοιες δεξιότητες. Η προσοχή στη σχεδίαση και η αυστηρότερη εποπτεία των skills είναι πλέον πιο αναγκαία από ποτέ.

Είναι ενδιαφέρον πως η AIR επέλεξε να δημιουργήσει ένα harmless payload, ώστε να αποδείξει το πρόβλημα χωρίς να προκαλέσει ζημιά. Αυτό υποδεικνύει ότι το ζήτημα είναι τεχνικό και αφορά τις μεθόδους ανίχνευσης, όχι απαραίτητα την κακόβουλη πρόθεση, αλλά το ρίσκο παραμένει υψηλό.

Συνολικά, το συμβάν μας υπενθυμίζει την ανάγκη για συνεχή εξέλιξη και αναβάθμιση των συστημάτων ασφάλειας σε έναν κόσμο όπου η τεχνητή νοημοσύνη γίνεται ολοένα και πιο διαδεδομένη και κρίσιμη.

Πηγή: A fake AI agent skill passed every security scanner and reportedly reached 26,000 agents

Content may be assisted by AI tools. All articles are reviewed, fact checked, and edited according to Techitnews policies. AI may assist writing. Human editorial standards remain mandatory.