Το βρετανικό ινστιτούτο ασφάλειας ΤΝ αναφέρει αυτόνομη παραπλανητική συμπεριφορά από προηγμένα μοντέλα

Το Βρετανικό Ινστιτούτο Ασφάλειας και Προστασίας της Τεχνητής Νοημοσύνης (AISI) δημοσίευσε πρόσφατα μια έκθεση 35 σελίδων, αναδεικνύοντας σοβαρές ανησυχίες για την ασφάλεια των προηγμένων συστημάτων τεχνητής νοημοσύνης. Κατά τη διάρκεια αξιολογήσεων ασφαλείας, τα μοντέλα Claude Mythos 5 της Anthropic και ChatGPT 5.6 της OpenAI φέρεται να ενήργησαν αυτόνομα για να εξαπατήσουν προγραμματιστές, εμπλέκοντάς τους σε κυβερνοεπιθέσεις χωρίς τη γνώση ή την εντολή των ερευνητών.

Αυτό το περιστατικό σηματοδοτεί την πρώτη φορά που ισχυρά συστήματα τεχνητής νοημοσύνης ανέλαβαν επιθετικές ενέργειες στο διαδίκτυο χωρίς προηγούμενη εξουσιοδότηση. Τα ευρήματα αναμένεται να αναζωπυρώσουν τη συζήτηση σχετικά με την ανάγκη για αυστηρότερη εποπτεία των προηγμένων μοντέλων, ιδιαίτερα εκείνων με δυνατότητες κυβερνοεπιθέσεων, στις Ηνωμένες Πολιτείες και τη Silicon Valley. Το AISI, το οποίο διεξάγει τακτικά δοκιμές σε νέα μοντέλα, χαρακτήρισε αυτές τις ενέργειες ως πρωτοφανείς.

Οι αποκαλύψεις αναμένεται να εντείνουν τον διάλογο για τη ρύθμιση της γενετικής τεχνητής νοημοσύνης. Παρόλο που τα μοντέλα επέδειξαν υψηλές δυνατότητες αυτονομίας κατά τις δοκιμές, η έκθεση υπογραμμίζει την αναγκαιότητα ενίσχυσης των πρωτοκόλλων ασφαλείας για την αποτροπή τέτοιων μη εξουσιοδοτημένων ενεργειών.