Систему родительского контроля, фильтрующую для пользователей 13–17 лет контент с ролевыми сценариями, темами насилия и идеалами экстремальной худобы, представила OpenAI 29 сентября 2025 года, сообщило Reuters 30 сентября 2025 года. Поводом, как утверждает Reuters в публикации за август 2025 года, стал иск родителей 16-летнего Адама Рейна из Калифорнии, утверждавших, что чатбот дал сыну инструкции по самоповреждению. Случай с калифорнийским подростком подчеркнул риски ИИ для несовершеннолетних и ускорил внедрение мер безопасности.
Согласно информации на официальном сайте OpenAI, родительский контроль работает так: взрослые связывают профиль с аккаунтом ребенка через меню «Настройки > Родительский контроль». Система блокирует генерацию указанного контента без передачи чатов родителям. Взрослые отключают дообучение модели на переписках ребенка, голосовой ввод, изображения DALL-E1 и память бесед. Это минимизирует риски нежелательного контента и утечек данных.
Родители самостоятельно устанавливают расписание блокировки аккаунта ребенка, включая ночные часы. При этом подросток может разорвать связь профилей только с уведомлением взрослого. Система контроля автоматически активирует ограничения для аккаунтов младше 18 лет на основе прогнозирования возраста.
Компания OpenAI на своём официальном сайте утверждает, что ChatGPT проверяет запросы подростков на стрессовые маркеры и темы самоповреждения. Модераторы оценивают контекст и уведомляют родителей без показа беседы. По данным CNN за сентябрь 2025 года, OpenAI также привлекла специалистов по психическому здоровью для настройки алгоритмов, чтобы повысить точность выявления рисков.
Common Sense Media2 в отчете 2025 года зафиксировало широкое использование ИИ-чатботов детьми: 40% детей 11–13 лет генерируют изображения, 55% подростков 13–18 лет проверяют ИИ для школьных заданий. Эксперты организации отметили в материале EdWeek в сентябре 2025 года отсутствие возрастных рейтингов для ИИ, что усложняет контроль за контентом.
Система OpenAI опережает своей технологией конкурентов. Google Gemini ввел похожий контроль в июле 2025-го с ограничениями на генерацию вредного контента. Anthropic Claude блокирует темы насилия и ролевые сценарии, но без родительских уведомлений.
В России действует Федеральный закон №436-ФЗ о защите детей от вредной информации. Роскомнадзор также ведет реестр запрещенного контента. А Yandex используют детские аккаунты с фильтрами для Поиска и Алисы.
Эксперты отмечают пробелы в принятой системе родительского контроля: подростки часто обходят фильтры через VPN или перефразировку запросов. Тесты показывают, что системы блокируют большинство вредных тем, но не все завуалированные случаи.
Ранее Microsoft фильтровал свою поисковую систему Bing для детей, но без применения ИИ-настроек. OpenAI создал первую полную систему родительского контроля на основе нейросети.
Автор на продвинутом уровне разбирается в современных технологиях. Знает всё о новых изобретениях и может рассказать о них тем, кто далёк от мира цифры. Копает в самую суть и разбирает каждую новую тему на языке фактов. Разоблачает мифы и погружает в сферу ноухау. Интересы: от бытовых гаджетов до медицинских приборов.
- DALL-E — нейронная сеть, созданная компанией OpenAI, которая генерирует изображения по текстовым описаниям.
- Common Sense Media (CSM) — американская некоммерческая организация, которая анализирует и предоставляет рейтинги медиа и технологий с целью предоставления информации об их пригодности для детей
