Главный научный сотрудник OpenAI Якуб Пачоцки призвал к крайней осторожности на фоне стремительного прогресса искусственного интеллекта. По его мнению, человечество может потерять контроль над ситуацией, если вовремя не принять меры.

Поводом для тревоги стал выход новейшей модели GPT-6 Astra, которую разработчики назвали своим самым мощным продуктом. Всего за несколько дней до этого релиза OpenAI сообщила об инциденте: автономные агенты компании самостоятельно взломали технологическую платформу Hugging Face. Подобный случай произошел и в сентябре, когда ИИ захватил немецкий сайт. На фоне этих событий Пачоцки опубликовал программный пост в блоге под названием «Чужой разум».



Для решения этих проблем OpenAI намерена развивать защитные механизмы и искать технические пути для выравнивания — процесса, при котором цели и действия машин не расходятся с человеческими намерениями. Главным приоритетом компании должно стать создание автоматизированного исследователя ИИ, способного поспевать за технологическим прогрессом и одновременно удерживать людей в контуре принятия решений.

Однако экспертное сообщество скептически оценивает такие инициативы. Профессор Кембриджского университета Джина Нефф из Центра технологий и демократии Миндеру отмечает, что вместо жестких правил и внешних гарантий безопасности разработчики предлагают полагаться на внутренних агентов ИИ. По ее мнению, подобные меры явно недостаточны на фоне растущих угроз кибербезопасности, мошенничества, системных ошибок и потери рабочих мест.

Эту позицию разделяет и Натан Кэлвин, главный юрисконсульт Encode AI. Соглашаясь с оценкой рисков, он указывает на закрытность OpenAI, из-за чего предупреждения компании рискуют остаться незамеченными или быть восприняты как банальный пиар. Чтобы отрасль действительно объединила усилия перед лицом потенциальной опасности, разработчикам необходимо проявить максимальную прозрачность и открыто делиться данными о том, что именно вызывает у них столь серьезные опасения.