Генеральный директор Anthropic призывает замедлить разработку ИИ из-за рисков безопасности

Дарио Амодей, генеральный директор компании Anthropic, публично призвал к контролируемому замедлению разработки систем искусственного интеллекта для устранения критических рисков безопасности. Амодей предупредил, что без временной паузы мощные модели ИИ в течение ближайших шести-двенадцати месяцев могут достичь уровня, при котором автономные «рои агентов» смогут создавать ботнеты и получать контроль над интернет-инфраструктурой, потенциально нанося ущерб в сотни миллиардов долларов. Он подчеркнул, что прогресс должен продолжаться, но дополнительное время необходимо для того, чтобы механизмы безопасности успевали за стремительным развитием технологий.

Предложение получило редкую публичную поддержку от лидеров отрасли, включая Илона Маска и генерального директора OpenAI Сэма Альтмана, которые подтвердили, что безопасность ИИ является главной темой внутренних дискуссий в OpenAI. Амодей, покинувший OpenAI в 2020 году из-за разногласий по стандартам безопасности, отметил, что бесконтрольная эволюция ИИ может способствовать кибератакам и угрозам биологической безопасности. Эти заявления совпали с уходом исследователя Джейкоба Коксона из OpenAI и встречей инвесторов в Сан-Франциско, при этом некоторые наблюдатели предполагают, что подобные предупреждения могут быть стратегией влияния на настроения инвесторов и формирование общественного мнения.