Ο διευθύνων σύμβουλος της Anthropic ζητά επιβράδυνση της ανάπτυξης της Τεχνητής Νοημοσύνης

Ο Ντάριο Αμοντέι, διευθύνων σύμβουλος της εταιρείας Anthropic, ζήτησε δημόσια μια ελεγχόμενη επιβράδυνση στην ανάπτυξη συστημάτων τεχνητής νοημοσύνης για την αντιμετώπιση κρίσιμων κινδύνων ασφαλείας. Ο Αμοντέι προειδοποίησε ότι χωρίς μια προσωρινή επιβράδυνση, τα ισχυρά μοντέλα AI θα μπορούσαν μέσα σε έξι έως δώδεκα μήνες να φτάσουν σε σημείο όπου «σμήνη πρακτόρων» θα ήταν σε θέση να δημιουργήσουν επίμονα botnet και να αποκτήσουν τον έλεγχο υποδομών του Διαδικτύου, προκαλώντας ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων. Τόνισε ότι η πρόοδος θα συνεχιστεί, αλλά ο πρόσθετος χρόνος είναι απαραίτητος ώστε οι μηχανισμοί ασφαλείας να συμβαδίζουν με τις τεχνολογικές εξελίξεις.

Η πρόταση έλαβε σπάνια δημόσια υποστήριξη από ηγέτες του κλάδου, όπως ο Ίλον Μασκ και ο Σαμ Άλτμαν της OpenAI, οι οποίοι επιβεβαίωσαν ότι η ασφάλεια της τεχνητής νοημοσύνης αποτελεί κεντρικό θέμα συζήτησης. Ο Αμοντέι, ο οποίος αποχώρησε από την OpenAI το 2020 λόγω διαφωνιών σχετικά με τα πρότυπα ασφαλείας, σημείωσε ότι η ανεξέλεγκτη εξέλιξη της τεχνητής νοημοσύνης θα μπορούσε να διευκολύνει κυβερνοεπιθέσεις και βιοτρομοκρατία. Οι δηλώσεις αυτές συνέπεσαν με την παραίτηση του ερευνητή Τζέικομπ Κόξον από την OpenAI και μια επενδυτική συγκέντρωση στο Σαν Φρανσίσκο, εν μέσω φημών ότι οι προειδοποιήσεις μπορεί να στοχεύουν στη διαμόρφωση του επενδυτικού κλίματος.