오픈AI가 챗GPT 이용자의 사용 패턴을 분석해 연령대를 추정하고, 미성년자로 판단되는 경우 별도의 안전장치를 자동으로 적용하는 기능을 도입했다. 이번 조치는 청소년 이용자가 부적절한 콘텐츠에 노출될 가능성을 낮추고, 보다 안전한 인공지능 이용 환경을 조성하기 위한 취지다.
오픈AI는 최근 공식 블로그를 통해 챗GPT 소비자 플랜에 연령 예측 기능을 적용했다고 밝혔다. 해당 기능은 계정이 18세 미만 이용자의 것일 가능성을 판단해 청소년에게 적합한 이용 경험과 보호 장치를 제공하는 데 초점을 맞췄다. 연령 추정에는 가입 시 입력한 나이 정보 외에도 계정 생성 시점, 주요 활동 시간대 등 다양한 이용 신호가 종합적으로 활용된다. 이 과정에서 생체 정보나 새로운 민감 개인정보를 추가로 수집하지 않고, 기존에 축적된 이용 데이터만을 기반으로 운영된다는 점도 함께 설명됐다.
연령 예측 모델이 특정 계정을 18세 미만으로 분류할 경우 챗GPT는 민감한 콘텐츠 노출을 줄이기 위한 보호 조치를 자동 적용한다. 제한 대상에는 노골적인 폭력이나 잔혹한 묘사가 포함된 콘텐츠를 비롯해 미성년자에게 위험하거나 유해한 행동을 유도할 수 있는 바이럴 챌린지, 성적·폭력적 성격의 역할극 등이 포함된다. 자해 묘사, 극단적인 미적 기준을 강조하는 콘텐츠, 건강하지 않은 다이어트 정보, 외모 비하를 조장하는 내용 등 청소년의 정서 발달에 부정적인 영향을 줄 수 있는 정보도 제한 대상에 포함됐다.
가입 단계에서 스스로 18세 미만임을 밝힌 이용자 역시 민감하거나 잠재적으로 유해한 콘텐츠 노출을 최소화하기 위한 추가 안전장치를 자동으로 적용받는다. 반대로 성인 이용자는 기본적인 안전 기준을 유지하는 범위 내에서 비교적 자유롭게 서비스를 이용할 수 있도록 설정된다. 시스템이 연령을 명확히 판단하기 어려운 경우에는 가장 보수적인 안전 설정이 기본값으로 유지된다.
이번 안전 기능은 아동 발달 과학과 외부 전문가 자문을 토대로 설계됐다. 청소년의 위험 인식 수준과 충동 조절 능력, 또래 집단의 영향력 등을 종합적으로 고려해 보호 범위를 설정했다는 설명이다. 이와 함께 오픈AI는 부모가 자녀의 AI 이용을 관리할 수 있도록 ‘패밀리 센터’ 기능도 제공하고 있다. 해당 기능에는 챗GPT 사용을 제한하는 ‘조용한 시간(quiet hours)’ 설정을 비롯해 모델 학습 관련 제어 옵션, 자녀 계정의 설정 상태를 확인할 수 있는 기능 등이 포함된다.
한편, 성인 이용자가 미성년자로 잘못 분류되는 상황을 대비해, 오픈AI는 신원 확인 서비스 ‘퍼스나(Persona)’를 통한 연령 인증 절차도 마련했다. 본인 인증을 통해 성인임이 확인될 경우 적용됐던 제한은 즉시 해제되고 기존 접근 권한이 복구된다.