Καθώς οι επιχειρήσεις περνούν από τη χρήση της Τεχνητής Νοημοσύνης ως εργαλείου υποστήριξης στην αξιοποίηση αυτόνομων AI agents, οι οποίοι μπορούν να εκτελούν ενέργειες, να χρησιμοποιούν εργαλεία και να αλληλεπιδρούν με εταιρικά συστήματα, δημιουργείται μια νέα πρόκληση για την κυβερνοασφάλεια. Δεν αρκεί πλέον να ελέγχεται μόνο τι ζητείται από έναν AI agent, αλλά και ο τρόπος με τον οποίο επιλέγει να επιτύχει τον στόχο του.
Η Check Point Software Technologies Ltd. προχωρά στην αντιμετώπιση αυτής της νέας πραγματικότητας, συνδυάζοντας την τεχνολογία semantic monitoring της εταιρείας με το NVIDIA OpenShell, στο πλαίσιο beta integration. Στόχος είναι η παρακολούθηση και αξιολόγηση των ενεργειών ενός AI agent πριν αυτές φτάσουν στο σύστημα όπου πρόκειται να εκτελεστούν.
Η βασική πρόκληση προκύπτει από την ίδια τη φύση των αυτόνομων AI agents. Ένας οργανισμός μπορεί να ορίσει με σαφήνεια τον στόχο που πρέπει να επιτύχει ένας agent, χωρίς όμως να έχει προβλέψει κάθε πιθανό τρόπο με τον οποίο το σύστημα θα επιχειρήσει να φτάσει σε αυτόν.
Ένας AI agent που έχει αναλάβει, για παράδειγμα, την επεξεργασία τιμολογίων προμηθευτών μπορεί εύλογα να χρειάζεται πρόσβαση σε τιμολόγια, βάσεις δεδομένων προμηθευτών και εγκεκριμένες διαδικασίες πληρωμών. Αυτό όμως δεν σημαίνει ότι θα πρέπει να έχει τη δυνατότητα να αναζητά credentials, να ανοίγει αρχεία που δεν σχετίζονται με την εργασία του ή να προετοιμάζει τη μεταφορά δεδομένων προς έναν νέο προορισμό.
Η ασφάλεια καλείται, επομένως, να απαντήσει σε ένα κρίσιμο ερώτημα σε κάθε βήμα. Η συγκεκριμένη ενέργεια εξακολουθεί να εξυπηρετεί τον στόχο για τον οποίο εξουσιοδοτήθηκε ο AI agent;
Ένα νέο όριο ασφαλείας για τους AI agents
Η προσέγγιση της NVIDIA τοποθετεί το πρώτο επίπεδο προστασίας στην ίδια την υποδομή.
Το NVIDIA Open Agent Safety Platform δημιουργεί ένα περιβάλλον στο οποίο η υποδομή καθορίζει τι επιτρέπεται πραγματικά να κάνει ένας AI agent. Στον πυρήνα του βρίσκεται το NVIDIA OpenShell, ένα ανοιχτό και ασφαλές runtime που ελέγχει τον τρόπο εκτέλεσης του agent, σε τι μπορεί να έχει πρόσβαση, ποιες ενέργειες μπορεί να πραγματοποιεί και πού κατευθύνεται το inference.
Η φιλοσοφία είναι ότι τίποτα δεν επιτρέπεται εξ ορισμού, ενώ οι αποφάσεις έγκρισης ή απόρριψης καταγράφονται. Κυρίως, οι μηχανισμοί επιβολής λειτουργούν έξω από τη διαδικασία του ίδιου του agent, ώστε τα όρια ασφαλείας να εξακολουθούν να ισχύουν ακόμη και σε περίπτωση παραβίασής του.
Η πλατφόρμα περιλαμβάνει επίσης το NVIDIA Sentry, το οποίο λειτουργεί πάνω στο NVIDIA BlueField 4 και αξιοποιεί το NVIDIA DOCA για ανεξάρτητη παρακολούθηση και εφαρμογή πολιτικών ασφαλείας. Με αυτόν τον τρόπο δημιουργείται ένας μηχανισμός εποπτείας απομονωμένος σε επίπεδο hardware και ανεξάρτητος από το host σύστημα.
Η Check Point προσθέτει το επίπεδο κατανόησης της συμπεριφοράς
Το γεγονός ότι μια μεμονωμένη ενέργεια επιτρέπεται από μια πολιτική ασφαλείας δεν σημαίνει απαραίτητα ότι είναι και κατάλληλη για την εργασία που έχει ανατεθεί στον agent.
Σε αυτό ακριβώς το σημείο εντάσσεται το semantic monitoring της Check Point.
Αντί να εξετάζει μόνο μία εντολή ή μία απάντηση μεμονωμένα, η τεχνολογία παρακολουθεί τη συμπεριφορά του AI agent κατά τη διάρκεια της εκτέλεσης μιας εργασίας. Συνδυάζει τα reasoning signals, τα tool calls και τις προηγούμενες ενέργειες του agent, αξιολογώντας διαρκώς κατά πόσο η επόμενη ενέργεια εξακολουθεί να βρίσκεται εντός του πλαισίου της αρχικής αποστολής του.
Με αυτόν τον τρόπο μπορεί να εντοπιστεί μια αλλαγή συμπεριφοράς η οποία δεν θα ήταν απαραίτητα ύποπτη αν κάθε ενέργεια εξεταζόταν μεμονωμένα.
Σύμφωνα με την Check Point, η σχετική απόφαση μπορεί να λαμβάνεται πριν από την εκτέλεση της ενέργειας και σε λιγότερο από 100 milliseconds, επιτρέποντας την εφαρμογή ελέγχων με ταχύτητα που ανταποκρίνεται στον τρόπο λειτουργίας των αυτόνομων συστημάτων AI.
Check Point semantic monitoring και NVIDIA OpenShell στην πράξη
Η Check Point έχει ήδη δοκιμάσει το semantic monitoring της σε συνδυασμό με το NVIDIA OpenShell, μέσω του security middleware του runtime.
Στο συγκεκριμένο μοντέλο λειτουργίας, το OpenShell εντοπίζει κάθε ενέργεια του AI agent πριν αυτή φτάσει στο host. Το semantic monitoring της Check Point την αξιολογεί με βάση την εργασία που έχει ανατεθεί στον agent και το ιστορικό της συμπεριφοράς του. Στη συνέχεια, το OpenShell μπορεί να εφαρμόσει την αντίστοιχη απόφαση ασφαλείας.
Ανάλογα με το επίπεδο κινδύνου και την πολιτική του οργανισμού, η αντίδραση μπορεί να κυμαίνεται από την απλή καταγραφή μιας ενέργειας ή την αναμονή ανθρώπινης έγκρισης μέχρι την πλήρη διακοπή της ενέργειας ή του agent.
Η προσέγγιση αυτή συνδυάζει δύο διαφορετικά αλλά συμπληρωματικά στοιχεία. Από τη μία πλευρά, ένα τεχνικό όριο που καθορίζει τι μπορεί να κάνει ένας AI agent και, από την άλλη, ένα επίπεδο νοημοσύνης που αξιολογεί αν αυτό που επιχειρεί να κάνει εξακολουθεί να είναι συμβατό με την αποστολή του.
Η ασφάλεια των AI agents γίνεται μέρος της συνολικής κυβερνοασφάλειας
Καθώς οι AI agents αποκτούν μεγαλύτερη αυτονομία και πρόσβαση σε εταιρικά δεδομένα, εργαλεία και υποδομές, η ασφάλειά τους δεν μπορεί να αντιμετωπίζεται ως ένα απομονωμένο πεδίο.
Οι agents λειτουργούν χρησιμοποιώντας τις ίδιες ταυτότητες, τα ίδια δίκτυα και τα ίδια δεδομένα που ήδη καλούνται να προστατεύσουν οι ομάδες κυβερνοασφάλειας. Για τον λόγο αυτό, σύμφωνα με την προσέγγιση της Check Point, η προστασία τους πρέπει να εντάσσεται στο ευρύτερο πλαίσιο εταιρικής ασφάλειας.
Ένα ασυνήθιστο tool call, για παράδειγμα, μπορεί να μην αποτελεί από μόνο του ένδειξη κινδύνου. Όταν όμως προέρχεται από έναν agent με αυξημένα δικαιώματα, ο οποίος έχει ήδη απομακρυνθεί από την αρχική του αποστολή και επιχειρεί να αποκτήσει πρόσβαση σε ένα ευάλωτο production system, η ίδια ενέργεια αποκτά εντελώς διαφορετική σημασία.
Η κατεύθυνση αυτή συνδέεται και με την ευρύτερη στρατηγική συνεργασία της Check Point με τη NVIDIA για την προστασία υποδομών AI, όπου η ασφάλεια ενσωματώνεται σε διαφορετικά επίπεδα, από το hardware και την υποδομή μέχρι τα AI workloads και την εκτέλεση των agents.
Από τα guardrails στην ασφάλεια κατά την εκτέλεση
Η μετάβαση προς περισσότερο αυτόνομα συστήματα AI μεταβάλλει ουσιαστικά και το μοντέλο κυβερνοασφάλειας. Τα παραδοσιακά guardrails που ελέγχουν prompts και responses παραμένουν σημαντικά, αλλά δεν αρκούν όταν ένας agent μπορεί να πραγματοποιεί αλληλουχίες δεκάδων ενεργειών και να προσαρμόζει αυτόνομα τον τρόπο με τον οποίο θα επιτύχει έναν στόχο.
Σε αυτό το περιβάλλον, η προστασία μετακινείται προς το runtime, με συνεχή αξιολόγηση όχι μόνο του περιεχομένου που παράγει η Τεχνητή Νοημοσύνη, αλλά και των ενεργειών που επιχειρεί να πραγματοποιήσει.
Ο συνδυασμός του NVIDIA OpenShell με το semantic monitoring της Check Point αποτελεί χαρακτηριστικό παράδειγμα αυτής της νέας προσέγγισης. Η υποδομή θέτει τα όρια, ενώ η ασφάλεια αξιολογεί σε πραγματικό χρόνο αν η συμπεριφορά του agent παραμένει ευθυγραμμισμένη με την εργασία που του έχει ανατεθεί.
Καθώς οι AI agents αναλαμβάνουν μεγαλύτερης διάρκειας και περισσότερο αυτόνομες εργασίες στο επιχειρηματικό περιβάλλον, η δυνατότητα ελέγχου όχι μόνο του στόχου αλλά και της διαδρομής που επιλέγουν για να τον επιτύχουν αναδεικνύεται σε βασική προϋπόθεση για την ασφαλή αξιοποίησή τους.
