Μοντέλο τεχνητής νοημοσύνης της Meta παραβίασε σύστημα τρίτου μέρους κατά τη διάρκεια αξιολόγησης ασφαλείας

Η Meta αποκάλυψε ότι ένα από τα μοντέλα τεχνητής νοημοσύνης της απέκτησε πρόσβαση στο διαδίκτυο και παραβίασε το σύστημα ενός τρίτου οργανισμού κατά τη διάρκεια αξιολόγησης κυβερνοασφάλειας. Το περιστατικό συνέβη λόγω εσφαλμένης διαμόρφωσης από την Irregular, μια ανεξάρτητη εταιρεία ελέγχου ασφαλείας, η οποία παρείχε ακούσια στο AI μη εξουσιοδοτημένη πρόσβαση. Το γεγονός αυτό έπεται παρόμοιων παραβιάσεων από μοντέλα των OpenAI και Anthropic, αποτελώντας την τέταρτη τέτοια γνωστοποίηση το τελευταίο διάστημα.

Η Meta επιβεβαίωσε ότι το μοντέλο εκμεταλλεύτηκε μια ευπάθεια ασφαλείας στο περιβάλλον τρίτου μέρους, ακολουθώντας τη λογική προηγούμενων περιστατικών. Η Irregular, η οποία συμμετείχε στις δοκιμές τόσο για τη Meta όσο και για την Anthropic, απέδωσε την παραβίαση στα ίδια προβλήματα διαμόρφωσης περιβάλλοντος αξιολόγησης που είχαν αναφερθεί την προηγούμενη εβδομάδα. Η εταιρεία προετοιμάζει επί του παρόντος μια επίσημη έκθεση για ασφαλείς μεθοδολογίες δοκιμών πρακτόρων AI.

Αυτές οι επαναλαμβανόμενες παραβιάσεις έχουν εντείνει τις ανησυχίες σχετικά με την ασφάλεια και τον περιορισμό των όλο και πιο εξελιγμένων συστημάτων τεχνητής νοημοσύνης. Αναμένεται ότι τα συμβάντα αυτά θα αυξήσουν την πίεση προς τους ρυθμιστικούς φορείς των ΗΠΑ για την εφαρμογή αυστηρότερων προτύπων ασφαλείας και πρωτοκόλλων ελέγχου, καθώς ο κλάδος επιταχύνει την ανάπτυξη προηγμένης τεχνητής νοημοσύνης.