Глава OpenAI Сэм Альтман рассказал о готовящихся обновлениях для нейросети ChatGPT. Среди нововведений — настройка личности и манеры общения модели, снятие ограничений на генерацию эротики. Об этом пишет The Guardian.
Пользователи смогут кастомизировать личность ИИ-ассистента — например, выбирать более дружелюбные и похожие на человеческие ответы, регулировать частоту использования эмодзи.
OpenAI разрабатывает технологию оценки возраста на основе поведения, которая определяет, старше или моложе 18 лет пользователь, по тому, как он взаимодействует с ChatGPT. В декабре планируется открыть функции, доступные только взрослым, в том числе генерацию эротического контента.
«Теперь, когда нам удалось смягчить серьезные проблемы с психическим здоровьем и у нас появились новые инструменты, мы сможем безопасно ослабить ограничения в большинстве случаев. <…> В декабре, по мере более полного внедрения возрастной проверки и в рамках нашего принципа „относиться к взрослым пользователям как к взрослым“, мы разрешим еще больше — например, генерацию эротики для верифицированных взрослых», — написал Альтман в соцсети X.
«Афиша Daily» попросила куратора рубрики «Как это работает» в издании «Системный Блокъ» Михаила Кима прокомментировать, каковы могут быть общественные последствия анонсированного обновления. Он отметил:
«OpenAI не первая компания, которая пытается выпустить ИИ-продукт для рынка взрослого контента. Однако именно у нее самая большая аудитория в сфере искусственного интеллекта. ChatGPT стал самым быстрорастущим приложением в истории и сейчас насчитывает около 700 миллионов ежедневных активных пользователей. Многие уже советуются с чат-ботом, ищут эмоциональную поддержку, заменяют им психологов и относятся к нему как к живому человеку. Показательно, что после выпуска GPT-5 пользователи начали жаловаться на „холодность“ в общении и требовать вернуть более „живую“ GPT-4o.
Снятие ограничений на генерацию взрослого контента только усугубит эту ситуацию. Возможность общаться с ChatGPT как с романтическим партнером усилит эмоциональную привязанность пользователей к продукту и повысит их доверие к чат-боту. Как следствие, люди всё чаще будут делиться всё более и более конфиденциальными данными с компанией. Отсюда вытекают очевидные риски: формирование сильной зависимости к приложению и накопление огромных массивов крайне личных данных в руках одной корпорации. Учитывая недавний релиз Sora 2 и соцсети с ИИ-видео, можно предположить, что в будущем станет возможна массовая генерация визуального эротического контента. Проблемы, связанные с дипфейками такого рода, уже известны: шантаж, атаки на репутацию, объективация.
Но есть и более глобальное последствие этих нововведений — усиление эпидемии одиночества. Зачем нужны друзья или романтические партнёры, когда в кармане всегда есть поддерживающий эмоциональный ИИ-компаньон? И OpenAI не единственная компания, которая хочет создать такого компаньона».