Руководители компании Anthropic готовятся к экстренной встрече с высокопоставленными чиновниками Белого дома. Поводом для серьезного разговора послужили новые опасения в сфере национальной безопасности, возникшие сразу после релиза последней ИИ-модели компании.
По сообщениям двух источников, знакомых с ситуацией, закрытая встреча запланирована на понедельник и пройдет в Вашингтоне. Со стороны правительства в ней примут участие представители Министерства торговли США во главе с министром Говардом Латником. Ожидается, что саму компанию Anthropic на этих переговорах будет представлять ее генеральный директор Дарио Амодей.
Поводом для экстренного вмешательства властей стали события прошлой пятницы, когда Anthropic полностью заблокировала публичный доступ к своей новейшей разработке, которую разработчики ранее сами же охарактеризовали как «слишком мощную». Компания пошла на этот шаг после прямого запрета правительства США предоставлять доступ к данной технологии иностранным гражданам.
Речь идет о новой версии флагманской модели Claude Mythos, которая еще в апреле вызвала серьезный резонанс, когда ее предварительную версию передали для тестирования ограниченному числу организаций, включая некоторые ведомства США. Финальный продукт существует в двух модификациях под названиями Fable 5 и Mythos 5. Версия Fable 5 оснащена дополнительными встроенными фильтрами безопасности и предназначалась для широкой публики, в то время как Mythos 5 обладает иными протоколами управления и открыта только для узкого круга избранных организаций.
Выпуская Fable 5 в открытый доступ на прошлой неделе, представители Anthropic открыто признавали, что этот шаг сопряжен со значительными рисками, поскольку возможности новинки превосходят все, что компания когда-либо создавала для массового пользователя. Опасения подтвердились практически сразу. Спустя всего несколько дней после релиза правительство США заявило об обнаружении уязвимости к так называемому «джейлбрейку» — методу обхода защитных алгоритмов, который позволяет заставить нейросеть выполнять опасные команды, изначально запрещенные разработчиками.
На данный момент официальные лица Белого дома отказываются от каких-либо комментариев по поводу предстоящей встречи, а представители Министерства торговли США и компании Anthropic не ответили на официальные запросы журналистов.