Компания OpenAI готовится к значительным изменениям в политике модерации контента своего флагманского продукта ChatGPT. Генеральный директор Сэм Альтман объявил о намерении разрешить более широкий спектр материалов, включая эротический контент, мотивируя это желанием «относиться к взрослым пользователям как к взрослым».
Что планируется изменить?
Во вторник Альтман опубликовал заявление в социальной сети X, где пояснил концепцию нововведений. Согласно его словам, будущие версии ChatGPT смогут вести себя более естественно и «человекоподобно», однако это будет происходить исключительно по желанию пользователя, а не в результате агрессивной оптимизации со стороны компании.
Интересно, что этот шаг перекликается с недавней инициативой Илона Маска, который представил в своём чат-боте Grok два откровенно сексуализированных варианта ИИ-собеседников. Возможно, OpenAI стремится не отставать от конкурентов и одновременно увеличить базу платных подписчиков, предлагая более персонализированный опыт взаимодействия.
Волна критики и вопросы безопасности
Решение OpenAI вызвало острую реакцию со стороны юристов и специалистов по защите детей в интернете. Дженни Ким, партнёр авторитетной юридической фирмы Boies Schiller Flexner, высказала серьёзные опасения: «Каким образом компания гарантирует, что несовершеннолетние не получат доступ к разделам ChatGPT с контентом для взрослых? OpenAI, как и многие крупные технологические корпорации, фактически использует людей в качестве подопытных кроликов».
Её слова не беспочвенны. В апреле 2024 года издание TechCrunch обнаружило тревожную проблему: пользователи, зарегистрировавшие свои аккаунты как несовершеннолетние, могли создавать графический эротический контент через инструменты OpenAI. Компания тогда заявила о работе над исправлением, но инцидент продемонстрировал уязвимость существующих систем верификации возраста.
Законодательная реакция
Вопрос регулирования ИИ-компаньонов становится всё более актуальным на уровне штатов и федерального правительства США. Критики настаивают, что отрасль нуждается в более жёстком надзоре, особенно когда речь идёт о защите детей.
Показательным примером стала ситуация в Калифорнии: в понедельник губернатор Гэвин Ньюсом наложил вето на законопроект, который запрещал бы разработчикам предлагать ИИ-чат-боты в качестве компаньонов для детей без гарантий безопасности. Законопроект требовал от компаний доказать, что их программное обеспечение не способствует формированию деструктивного поведения у несовершеннолетних.
Перспективы и риски
Решение OpenAI балансирует на тонкой грани между свободой взрослых пользователей и необходимостью защиты уязвимых групп. С одной стороны, компания стремится предоставить более зрелый и персонализированный сервис, что может укрепить её позиции на рынке. С другой стороны, неспособность обеспечить надёжную систему возрастной верификации может привести к серьёзным последствиям — как репутационным, так и юридическим.
Остаётся открытым главный вопрос: сможет ли OpenAI разработать действительно эффективные механизмы защиты несовершеннолетних от нежелательного контента, или это решение станет очередным примером того, как технологические гиганты запускают спорные функции раньше, чем создают адекватные меры безопасности?