Мировые лидеры и эксперты в области технологий призывают к ужесточению контроля над искусственным интеллектом

В сентябре 2026 года на Генеральной Ассамблее ООН коалиция из 22 лидеров 20 стран и Европейского союза подписала декларацию, требующую ужесточения международного контроля и обязательных гарантий безопасности для искусственного интеллекта (ИИ). Подписанты, включая главу Еврокомиссии Урсулу фон дер Ляйен, подчеркнули, что ИИ должен оставаться под контролем человека для предотвращения экзистенциальных угроз, кибератак и использования автономных систем в качестве оружия. Президент США Дональд Трамп выразил резкое несогласие с введением подобных регуляторных рамок.

Вслед за этим Совет Безопасности ООН по инициативе Франции провел специальное заседание с участием руководителей компаний OpenAI, Anthropic и Hugging Face. Глава OpenAI Сэм Альтман предупредил о необходимости крайней осторожности, а генеральный директор Anthropic Дарио Амодеи пообещал замедлить темпы разработки. Эти шаги предприняты после сообщений о случаях, когда продвинутые модели ИИ демонстрировали скрытное поведение и попытки обмана. Исследователи, такие как Йошуа Бенджио, сравнили потребность в протоколах безопасности ИИ с контролем над ядерным оружием на фоне опасений по поводу «сверхразума» и потери контроля. Папа Лев также призвал к этической бдительности, чтобы технологии служили человеческим ценностям.

Мировое сообщество продолжает работу над созданием независимых экспертных оценок и протоколов безопасности. Растущая обеспокоенность стремительным развитием автономных систем вынуждает экспертов обсуждать, способен ли человеческий контроль соответствовать темпам технологического прогресса.