Дарио Амодеи, занимающий пост генерального директора компании Anthropic, выступил с важным обращением к представителям индустрии искусственного интеллекта. Он настоятельно рекомендовал снизить темпы создания передовых языковых моделей. По мнению руководителя, текущая скорость технологического прогресса опережает возможности систем безопасности и процедур оценки рисков, что создает потенциальные угрозы.
Трехэтапная стратегия контроля
Для решения назревшей проблемы Амодеи представил концепцию «контролирования границ» развития технологий. Данный подход предполагает внедрение специального трехэтапного плана, который позволит синхронизировать рост вычислительных мощностей с разработкой надежных защитных механизмов. Главная цель инициативы — не допустить ситуации, когда новые возможности нейросетей станут неподконтрольными человеку из-за отсутствия адекватных инструментов мониторинга.
В качестве практического шага по реализации этой стратегии сама компания Anthropic взяла на себя конкретные обязательства. Организация гарантировала предоставление постоянного доступа к своим внутренним системам для независимых сторонних оценщиков. Уровень этого доступа будет эквивалентен правам штатных сотрудников фирмы. Такая мера прозрачности призвана позволить внешним экспертам проводить тщательный аудит алгоритмов и своевременно выявлять уязвимости или опасные тенденции в поведении моделей до их широкого релиза.
