Уход менеджеров по безопасности OpenAI: уволилась глава отдела этики

Компания OpenAI столкнулась с очередным этапом масштабных кадровых изменений в подразделениях, отвечающих за безопасность, согласование (alignment) и этику алгоритмов. Из компании ушла Хлое Бакалар (Chloé Bakalar), занимавшая пост руководителя направления ИИ-этики и являвшаяся единственным профильным специалистом в этой области в штате. Бакалар проработала в OpenAI менее года.

Ее уход стал частью серии увольнений топ-менеджеров, курировавших вопросы контроля над рисками сверхразумного ИИ.

Хронология уходов и реструктуризация команд

За последние несколько месяцев компания лишилась сразу нескольких ключевых фигур, отвечавших за безопасную разработку моделей:

Хлое Бакалар (Head of AI Ethics): Ушла из компании; OpenAI заявляет, что этика теперь внедрена непосредственно в исследовательские группы, а не завязана на отдельном отделе.
Йоханнес Хайдецке (Safety Systems Lead): Объявил об увольнении в июле.
Джош Ачиам (Ex-Mission Alignment Lead / Chief Futurist): Покинул компанию вслед за расформированием подразделения Mission Alignment.
Илья Суцкевер и Ян Лейке (Superalignment): Покинули OpenAI ранее, что привело к полной ликвидации отдельной команды Superalignment и перераспределению ее задач.

                ЭВОЛЮЦИЯ СТРУКТУРЫ БЕЗОПАСНОСТИ OPENAI
  ┌────────────────────────────────────────────────────────────┐
  │ РАНЕЕ: Централизованные независимые команды                │
  │ (Superalignment, Mission Alignment, отдельный этик)        │
  ├────────────────────────────────────────────────────────────┤
  │ СЕЙЧАС: Распределенный подход (Embedded Safety)            │
  │ Контроль безопасности встроен прямо в команды разработчиков│
  └────────────────────────────────────────────────────────────┘

Децентрализация контроля: плюсы и риски

OpenAI меняет внутреннюю архитектонику надзора: функции безопасности и проверки гипотез переносятся «ближе к коду» — непосредственно в команды разработчиков.

Плюс: Проблемы и уязвимости выявляются на ранних этапах обучения моделей, а не перед самым релизом.
Минус: Исчезает независимый «внутренний контролер», способный наложить вето на запуск продукта, если его мощности представляют потенциальную угрозу.

Вопрос независимости проверок встает особенно остро: новая флагманская линейка моделей, включая GPT-5.6 Luna и перспективную систему Astra, все больше смещается от простого текстового взаимодействия к автономному выполнению сложных агентурных задач (включая работу с программным кодом и кибербезопасностью).

Финрезультаты против рисков

Несмотря на кадровые перестановки и критику со стороны сторонников жесткого регулирования ИИ, OpenAI демонстрирует рекордные финансовые показатели. В июле финансовые показатели компании за один месяц превысили суммарную выручку за весь второй квартал 2023 года, а бесплатный доступ к ChatGPT расширяется за счет внедрения модели GPT-5.6 Luna.