Более 20 руководителей и исследователей в сфере искусственного интеллекта призвали регуляторов усилить контроль за использованием ИИ для разработки следующих поколений моделей. Авторы работы считают, что автоматизация исследований способна привести к резкому ускорению технологического прогресса, которое они называют «взрывом интеллекта».
По их оценке, развитие систем может ускориться настолько, что обществу станет сложнее адаптироваться к новым возможностям и сохранять контроль над технологией. Среди авторов работы — представители Anthropic и OpenAI, а также исследователи Джеффри Хинтон и Йошуа Бенджио.
Исследователи предлагают повысить прозрачность использования ИИ ведущими лабораториями при автоматизации научных разработок. В числе возможных мер названы более строгие требования к безопасности, надзор за центрами обработки данных и подготовка планов экстренного реагирования на сценарии ускоренного развития систем.
Актуальность вопроса растет по мере расширения применения ИИ внутри самих технологических компаний. Anthropic сообщила, что более четверти ее исследований и разработок в области искусственного интеллекта уже выполняется под руководством чат-бота Claude, тогда как в начале года этот показатель был близок к нулю.