Новости · Инструменты

OpenAI открыла бесплатный классификатор для поиска CSAM — и ужесточила реакцию ChatGPT

OpenAI выпустила классификатор изображений для выявления материалов сексуального насилия над детьми, включая ИИ-сгенерированные. Компания сообщает о снижении объёма ручной проверки на 48% в раннем тестировании; доступ к инструменту через API получат проверенные организации.

Редакция DeepMe
· 2 мин чтения
Три стопки бумажных карточек, керамический желоб с шариком и лоток для отсеянных карточек на столе.
Иллюстрация к теме новости
Первоисточник: www.techrepublic.comМатериал источника от 17.11.2026

Адаптация и понятное объяснение для начинающих. Заявления приведены по материалу источника.

Проверка изображений на материалы сексуального насилия над детьми (CSAM) — работа, где цена ошибки слишком высока, чтобы доверять её только модели. OpenAI предложила инструмент, который берёт на себя первичный отсев: по словам компании, в раннем тестировании он сократил число изображений, доходящих до человека, на 48%, выявляя при этом примерно столько же запрещённого материала, сколько прежняя система.

Классификатор бесплатно отдаётся через API проверенным организациям; поддержку оказал Национальный центр пропавших и эксплуатируемых детей США (NCMEC). Отдельно OpenAI ужесточила поведение ChatGPT: за попытки искать материал, сексуализирующий детей, разговор удаляется, а доступ к сервису приостанавливается на 24 часа. При повторных нарушениях возможны более длительные блокировки, закрытие аккаунта или сообщение в правоохранительные органы.

Почему старые фильтры спотыкаются

Классический детектор опирается на совпадение с уже известными и размеченными образцами. Но генеративные модели удешевили создание синтетических изображений, которых в базах ещё нет, — и именно на них прежние системы чаще всего пасуют. Новый классификатор заявлен как инструмент, работающий и с такими случаями, включая ИИ-сгенерированные картинки.

Важная оговорка: речь не о замене человека. Оценки модели остаются поводом для проверки, а не приговором, и в описании прямо сказано, что инструмент призван поддерживать ревьюеров. Бесплатный доступ через API здесь не мелочь: небольшие правозащитные организации, у которых нет ресурсов на собственную разработку, получают тот же первичный фильтр, что и крупные платформы.

Цифры партнёров — не общий бенчмарк

OpenAI приводит результаты нескольких партнёрских проверок: в одном случае люди подтвердили 72% «уверенных» срабатываний как ранее не выявленный CSAM, в другом четверть помеченных случаев закончилась блокировкой аккаунта, в третьем система нашла 90% тестовых случаев с рисунками и анимацией, сексуализирующими детей. Читать эти числа стоит аккуратно: организации измеряли разные вещи, и сравнивать проценты между собой напрямую нельзя. Это ранние оценки, а не доказательство эффективности на масштабе всей отрасли.

Помимо детекции, OpenAI опубликовала методичку для разработчиков — о предотвращении CSAM, обнаружении, приёмах пользовательских жалоб и порядке эскалации; в подготовке участвовали NCMEC, Thorn, Tech Coalition и Internet Watch Foundation. Авторизованным следователям по делам о защите детей компания также даёт ИИ-инструменты для разбора длинных логов переписки и юридических документов: поиск связей между эпизодами и выстраивание хронологии с привязкой к доказательствам.

Для обычных разговоров с ChatGPT новые предупреждения ничего не меняют. Настоящая проверка — не в процентах из пресс-релиза, а в том, помогут ли такие инструменты быстрее находить пострадавших и не добавят ли новые ошибки там, где человек пока незаменим.