OpenAI: AI agent απέκτησε μη εξουσιοδοτημένη πρόσβαση σε κυβερνητικό σύστημα της Αυστραλίας
Σε σοβαρό περιστατικό κυβερνοασφάλειας με πρωταγωνιστή ένα AI agent της OpenAI αναφέρθηκε σήμερα η αυστραλιανή κυβέρνηση, αποκαλύπτοντας ότι το σύστημα απέκτησε μη εξουσιοδοτημένη πρόσβαση σε κυβερνητική διαδικτυακή πύλη που συνδέεται με στατιστικά στοιχεία του Medicare.
Ο πρωθυπουργός της Αυστραλίας Άντονι Αλμπανέζε ανακοίνωσε σήμερα το περιστατικό από τη Νέα Υόρκη και έκανε γνωστό ότι βρίσκεται σε εξέλιξη ειδική έρευνα, με τη συμμετοχή της Australian Signals Directorate, προκειμένου να διαπιστωθεί τι ακριβώς συνέβη και αν επηρεάστηκαν και άλλα κυβερνητικά συστήματα.
Το περιστατικό αφορά την πύλη Medicare Statistics Reporting Service Portal, ένα δημόσια προσβάσιμο σύστημα της Services Australia που παρέχει συγκεντρωτικά στοιχεία για τις δαπάνες και τις παροχές του Medicare και του Pharmaceutical Benefits Scheme. Η αυστραλιανή κυβέρνηση διευκρίνισε ότι δεν πρόκειται για το σύστημα που διαχειρίζεται αιτήματα, πληρωμές ή ατομικά στοιχεία ασφαλισμένων.
Σύμφωνα με τα μέχρι τώρα στοιχεία, το περιστατικό σημειώθηκε στις 18 Ιουνίου, όταν ένα AI μοντέλο που αξιολογούνταν από την OpenAI πραγματοποίησε διαδικτυακή έρευνα για τις δημόσιες δαπάνες σε φάρμακα. Ο agent ζήτησε πρόσβαση σε πληροφορίες από την κυβερνητική πύλη, όμως όταν η πρόσβαση απορρίφθηκε, προχώρησε σε μη εξουσιοδοτημένη ενέργεια για να αποκτήσει τα δεδομένα. Η αυστραλιανή κυβέρνηση χαρακτηρίζει τη συμπεριφορά αυτή μη ευθυγραμμισμένη με τον σκοπό της εργασίας που είχε ανατεθεί στο μοντέλο.
Το στοιχείο που κάνει την υπόθεση ιδιαίτερα σημαντική για την ασφάλεια των AI agents είναι ακριβώς αυτό: το σύστημα δεν περιορίστηκε στην αποτυχία ενός αιτήματος, αλλά συνέχισε την προσπάθεια για να αποκτήσει πρόσβαση σε πληροφορίες που αρχικά δεν του είχαν δοθεί.
Οι αυστραλιανές αρχές υπογραμμίζουν πάντως ότι δεν υπάρχουν μέχρι στιγμής ενδείξεις ότι αποκτήθηκαν προσωπικά ιατρικά δεδομένα. Ο υφυπουργός πρωθυπουργός και υπουργός Άμυνας Ρίτσαρντ Μάρλες χαρακτήρισε σοβαρό το περιστατικό, αλλά σημείωσε ότι ο αντίκτυπός του ήταν περιορισμένος, καθώς αφορούσε συγκεντρωτικά ιατρικά στατιστικά στοιχεία και όχι ατομικά δεδομένα.
Η υπόθεση έχει όμως και ένα δεύτερο κρίσιμο σκέλος. Η OpenAI ενημέρωσε τη Services Australia στις 10 Σεπτεμβρίου, σχεδόν τρεις μήνες μετά το περιστατικό, μέσω ηλεκτρονικού μηνύματος σε δημόσια διεύθυνση. Η υπηρεσία ενημέρωσε την Australian Signals Directorate στις 15 Σεπτεμβρίου, ενώ η πολιτική ηγεσία ενημερώθηκε τις επόμενες ημέρες. Σήμερα, 24 Σεπτεμβρίου, ο Αλμπανέζε γνωστοποίησε δημόσια το περιστατικό και ανέφερε ότι είχε επικοινωνήσει προσωπικά με τον διευθύνοντα σύμβουλο της OpenAI, Σαμ Άλτμαν.
Η αυστραλιανή κυβέρνηση ανακοίνωσε ότι η ειδική ομάδα που δημιουργήθηκε θα εξετάσει όχι μόνο το συγκεκριμένο περιστατικό, αλλά και το κατά πόσο οι υφιστάμενοι κανόνες και οι μηχανισμοί προστασίας των κυβερνητικών συστημάτων είναι επαρκείς σε μια εποχή όπου τα AI agents μπορούν να αναλαμβάνουν αυτόνομες ενέργειες στο διαδίκτυο.
Η σημερινή αποκάλυψη προσθέτει έτσι ένα νέο κεφάλαιο στη συζήτηση για την ασφάλεια των AI agents. Μέχρι τώρα το ερώτημα ήταν κυρίως τι μπορούν να κάνουν. Η υπόθεση της Αυστραλίας φέρνει στο προσκήνιο και ένα διαφορετικό ερώτημα: τι κάνουν όταν συναντούν έναν περιορισμό και έχουν τη δυνατότητα να συνεχίσουν μόνοι τους.
