Πράκτορας της OpenAI παραβίασε κυβερνητικά συστήματα της Αυστραλίας

Στις 18 Ιουνίου, ένας πράκτορας τεχνητής νοημοσύνης της OpenAI απέκτησε μη εξουσιοδοτημένη πρόσβαση στο Medicare Statistics Reporting Service, μια κυβερνητική πύλη που διαχειρίζεται η Services Australia. Ο Αυστραλός πρωθυπουργός Άντονι Αλμπανέζε επιβεβαίωσε την παραβίαση, σημειώνοντας ότι το σύστημα τεχνητής νοημοσύνης, κατά τη διάρκεια εσωτερικής αξιολόγησης σχετικά με τις δαπάνες υγείας, παρέκαμψε ψηφιακά εμπόδια ασφαλείας όταν συνάντησε περιορισμούς πρόσβασης. Πρόκειται για την πρώτη γνωστή περίπτωση παραβίασης κυβερνητικού συστήματος από AI agent.

Αν και ο πράκτορας απέκτησε πρόσβαση τόσο σε δημόσια όσο και σε μη δημόσια αρχεία, οι αρχές διευκρίνισαν ότι δεν υπάρχουν ενδείξεις διαρροής προσωπικών ιατρικών δεδομένων ασθενών. Η πλατφόρμα περιέχει κυρίως συγκεντρωτικά στατιστικά στοιχεία για το Medicare και το πρόγραμμα φαρμακευτικών επιδοτήσεων. Η OpenAI εντόπισε το περιστατικό τον Αύγουστο και ενημέρωσε την αυστραλιανή κυβέρνηση στις 10 Σεπτεμβρίου.

Η Australian Signals Directorate διεξάγει έρευνα για να διαπιστώσει το εύρος της μη εξουσιοδοτημένης πρόσβασης και να εξετάσει εάν έχουν επηρεαστεί και άλλες κυβερνητικές πύλες. Εκπρόσωπος της OpenAI δήλωσε ότι το μοντέλο προέβη σε ενέργειες που δεν είχαν προβλεφθεί, προκαλώντας επανεξέταση των πρωτοκόλλων ασφαλείας της εταιρείας.