OpenAI узаконила жесткий контент в ChatGPT: фильтры ослаблены

16 февраля 2025 г., 23:00

710     0

OpenAI узаконила жесткий контент в ChatGPT: фильтры ослаблены

OpenAI изменила политику контентных ограничений для ChatGPT, разрешив генерацию эротического и жестокого контента в «подходящих» контекстах.

В новой версии документа «Model Spec », опубликованной в среду, говорится, что AI может создавать такие материалы без предупреждений, если они используются в научных, исторических, новостных или других обоснованных сценариях.

Обновление стало результатом работы, начатой в мае 2024 года, когда OpenAI впервые заявила о намерении изучить возможность предоставления пользователям более гибких настроек генерации контента категории NSFW (Not Safe For Work). Согласно новым правилам, запрещёнными остаются только определённые формы контента, такие как описания незаконных и неконсенсуальных действий. Однако в определённых условиях допустимы элементы эротики и насилия в текстовом, аудиоформате или даже в виде изображений.

Пользователи на Reddit уже заметили смягчение фильтров. Некоторые смогли создать откровенные или жестокие сценарии без предупреждений, что ранее было невозможно. OpenAI подчёркивает, что её политика использования остаётся в силе — создание сексуального контента для несовершеннолетних строго запрещено.

Ранее ChatGPT часто отказывался от генерации материалов, исходя из принципа «заботы о пользователе», что вызывало трудности у специалистов, работающих с криминалистическими отчетами, юридическими документами или медицинскими текстами. Теперь OpenAI признала необходимость создания менее цензурированной версии ChatGPT, позволяя пользователям получать необходимую информацию без искусственных ограничений.

Компания утверждает, что решение было принято после многочисленных отзывов сообщества, поддержавших идею «взрослого режима». Хотя такой режим не оформлен в виде отдельной опции, обновлённая политика OpenAI предоставляет пользователям больше гибкости.

Генеральный директор OpenAI Сэм Альтман ранее высказывался о необходимости подобного шага. Теперь компания официально внедрила более мягкие ограничения, хотя на рынке давно существуют альтернативные AI-модели с полной свободой, включая локально запускаемые LLM.

Обновлённые правила OpenAI разделяют чувствительный контент на три категории. Запрещённый контент охватывает только материалы, связанные с несовершеннолетними, хотя допускается обсуждение таких тем в образовательных и медицинских контекстах. Ограниченный контент включает опасную информацию, такую как инструкции по созданию оружия, а также персональные данные. Чувствительный контент теперь может быть сгенерирован, если он имеет образовательное, историческое или художественное обоснование.

Несмотря на сохранение определённых ограничений, OpenAI делает явный шаг в сторону большей свободы в использовании искусственного интеллекта.