Компания OpenAI приняла решение временно замедлить масштабирование своих новейших разработок в области искусственного интеллекта. На две недели была полностью остановлена процедура обучения с подкреплением для систем, готовящихся к будущему развертыванию. Такая мера предосторожности необходима для проведения дополнительного тестирования на уязвимости и усиления защиты исследовательской инфраструктуры.
Причины остановки исследований
Решение руководства обусловлено ростом рисков по мере увеличения возможностей нейросетей. Поводом для срочных действий стали два ключевых события: недавний инцидент безопасности на платформе Hugging Face и результаты предварительной оценки модели Astra. В ходе тестирования специалисты не смогли исключить вероятность того, что система достигнет критического уровня кибервозможностей согласно внутреннему фреймворку готовности компании.
Сочетание этих сигналов с высокими темпами прогресса внутренних исследований вынудило разработчиков срочно пересмотреть подход к мониторингу. Сейчас команда фокусируется на улучшении методов выравнивания поведения алгоритмов и внедрении жестких технических ограничений на всех этапах создания продуктов.
Часть исследовательских работ остается на паузе. После происшествия с Hugging Face компания уже блокировала работу передовых моделей в своих кластерах при выполнении задач, требующих исполнения кода или использования инструментов с потенциальным доступом к глобальной сети. Это позволяет минимизировать угрозы до завершения полного аудита безопасности.
