오픈AI가 18세 미만 사용자를 위해 자녀 보호 기능이 포함된 전용 챗GPT를 이달 말 출시한다.
16일(현지시간) 오픈AI는 사용자가 미성년자인 것으로 확인되면 자동으로 연령에 맞는 챗GPT 환경으로 안내한다고 설명했다. 이 환경에선 선정적이거나 폭력적인 콘텐츠가 차단되고, 심각한 위기 상황에서는 법 집행 기관이 개입할 수 있다.
이어 오픈AI는 "사용자의 나이를 더 잘 예측하는 기술을 개발 중이며, 불확실하거나 정보가 불완전할 경우 챗GPT는 기본적으로 18세 미만 사용자 경험으로 설정될 것"이라고 덧붙였다.
아울러, 부모의 자녀 보호 기능도 강화될 예정이라고 전해졌다. 이에 따라 부모는 자신의 챗GPT 계정을 자녀의 계정과 연결하고, 자녀가 챗봇을 사용할 수 없는 시간을 설정할 수 있게 된다. 또 챗봇의 응답 방식을 유도하며, 자녀가 심각한 정신적 고통을 겪을 경우 알림을 받을 수 있게 된다고 알려졌다.
오픈AI의 이 같은 조치는 최근 연방거래위원회(FTC)가 오픈AI를 포함한 여러 기업을 대상으로 AI 챗봇이 어린이와 청소년에게 미치는 잠재적 악영향에 대한 조사를 시작한 이후에 나온 것이다. FTC는 이들 기업에게 "챗봇의 안전성을 평가하기 위해 어떤 조치를 취했는지 파악할 필요가 있다"며 자료 요청을 개시했다고 밝힌 바 있다.
whywani@fnnews.com 홍채완 기자
Copyrightⓒ 파이낸셜뉴스. 무단전재 및 재배포 금지.