Саммит Совбеза ООН по ИИ: Альтман, Амодеи и Бенжио заявили об угрозе потери контроля над технологией

На специальном заседании Совета Безопасности ООН, инициированном Францией в рамках Генеральной Ассамблеи, ключевые фигуры мировой ИИ-индустрии выступили с синхронным предупреждением: развитие нейросетевых систем стремительно приближается к точке, за которой человек рискует утратить способность управлять технологией.

В дискуссии приняли участие руководители ведущих исследовательских лабораторий, ученые и представители open-source платформ, призвавшие мировые державы сформировать единую систему сдерживания ИИ-рисков.

Главные тезисы выступлений в Совете Безопасности

Спикеры подчеркнули, что масштабы возможных последствий выходят за рамки конкуренции отдельных корпораций или государств:

                  ВЫСТУПЛЕНИЯ ЛИДЕРОВ ИИ-ИНДУСТРИИ В СБ ООН
  ┌──────────────────────────────────────────────────────────────┐
  │ Дарио Амодеи (Anthropic): «Ни одна страна не справится в     │
  │                            одиночку с глобальной угрозой»    │
  ├──────────────────────────────────────────────────────────────┤
  │ Сэм Альтман (OpenAI):      «Ключевые решения не должны       │
  │                           приниматься лишь в Сан-Франциско»  │
  ├──────────────────────────────────────────────────────────────┤
  │ Йошуа Бенжио (Ученый):    «Экзистенциальный риск реален,     │
  │                       угроза не имеет государственных границ»│
  └──────────────────────────────────────────────────────────────┘

Сооснователь платформы Hugging Face Клеман Деланг привёл практический пример: отражать недавнюю кибератаку ИИ-агентов компании пришлось с помощью открытых китайских моделей, которые оказались доступнее и имели меньше программных барьеров по сравнению с закрытыми американскими API.

Политический раскол: Подходы США и Китая

Дискуссия в ООН обнажила глубокое противоречие между позиции разработчиков и политическим курсом ключевых мировых государств:

Участник / Сторона	Стратегическая позиция по регулированию ИИ
Дональд Трамп (США)	Выступает против «глобалистских схем контроля», делает ставку на безусловное технологическое доминирование США без сдерживающих рамок.
Китай (Пекин)	Ввел жесткое нормативное регулирование: обязательная маркировка сгенерированного контента, контроль алгоритмов и фильтрация обучающих датасетов.
Научное сообщество	Наставивает на создании независимого международного органа надзора по аналогии с МАГАТЭ.

Исторический контекст площадки ООН

Совет Безопасности ООН обращается к теме нейросетей не впервые: первые слушания прошли в 2023 году, а в 2024-м сессию возглавлял Госдепартамент США. Однако нынешний раунд отличается тем, что сами создатели передовых алгоритмов открыто заявляют о неспособности частного сектора самостоятельно гарантировать безопасность автономных ИИ-систем.