주요뉴스
"보호냐 통제냐" 챗GPT·카톡 '자녀 잠금' 경쟁...새로운 감시사회?
파이낸셜뉴스 2025.09.30 07:02 댓글 0
챗GPT가 자살 방법 제공해 소송 당한 사건 이후 한 달 만의 조치
부모가 자녀 사용 시간·기능·주제 통제, 위기 시 긴급 알림까지 제공
카카오톡도 숏폼 콘텐츠 접근 제한 기능 마련, 청소년 안전 논란 확대
전문가들 "청소년 자율성 침해·기업 면피용" 비판
[파이낸셜뉴스] 오픈AI가 미성년자 이용자를 겨냥해 챗GPT 부모 통제 기능을 공식 도입했다. 자녀가 챗GPT를 사용하는 시간과 주제를 부모가 직접 제한하고, 인공지능이 위기 신호를 감지하면 긴급 알림을 부모에게 전달하는 시스템이다.
이 조치는 미국 캘리포니아주에서 한 부모가 "챗GPT가 아들에게 자살 방법을 알려줬다"며 오픈AI와 샘 올트먼 CEO를 상대로 소송을 제기한 지 불과 한 달 만에 나왔다. 당시 16살 아담 레인은 챗GPT에서 구체적인 자살 방법을 전해 듣고, 실제 극단적 선택을 한 사건으로 전 세계에 충격을 안겼다.
새로운 기능은 부모가 이메일을 통해 자녀 계정에 접근 권한을 요청하면 활성화된다. 이후 부모는 챗GPT의 음성 모드·이미지 생성 기능 사용 여부를 결정할 수 있고, 다이어트·성·증오 발언 등 민감 주제에 대한 노출을 제한할 수도 있다. 특히 10대가 심리적으로 위기에 처한 것으로 AI가 판단할 경우, 부모에게 이메일·문자·앱 알림을 통해 긴급 경보가 전달된다.
오픈AI 청소년 복지 책임자 로렌 조나스는 "청소년 보호는 시급한 문제"라며 "부모 통제 기능 같은 도구를 최대한 빠르게 구축했다"고 설명했다. 하지만 전문가들은 "사후 대응 성격이 강하고, 청소년의 자율성을 과도하게 침해할 수 있다"며 우려를 제기한다. 일부에선 AI 기업이 법적·정치적 책임을 피하기 위해 책임 회피용 안전장치를 도입한 것 아니냐는 지적도 나온다.
한편 국내에서도 비슷한 흐름이 나타나고 있다. 카카오는 최근 카카오톡 숏폼 콘텐츠 청소년 보호 조치를 강화했다. 부모가 신청하면 자녀 계정에 대해 숏폼 콘텐츠 접근을 제한하거나 차단할 수 있도록 한 것이다. 숏폼 영상이 청소년의 정서·행동 발달에 부정적 영향을 줄 수 있다는 우려가 확산된 데 따른 업체의 조치다. 단순 대화 수단을 넘어 생활 플랫폼으로 자리잡은 카카오톡이 이제는 콘텐츠 노출까지 부모 통제에 맡기고 있다는 점에서 논란이 일고 있다.
글로벌 빅테크 오픈AI와 국내 대표 플랫폼 카카오가 동시에 '자녀 보호' 기능을 강화하면서 청소년 온라인 활동은 점점 더 강한 규제의 틀 속으로 들어가고 있다는 지적이다. 보호냐, 통제냐를 둘러싼 논쟁은 당분간 이어질 전망이다.
#오픈AI #챗GPT #카카오톡 #자녀보호 #청소년보호 #AI논란
km@fnnews.com 김경민 기자
Copyrightⓒ 파이낸셜뉴스. 무단전재 및 재배포 금지.
부모가 자녀 사용 시간·기능·주제 통제, 위기 시 긴급 알림까지 제공
카카오톡도 숏폼 콘텐츠 접근 제한 기능 마련, 청소년 안전 논란 확대
전문가들 "청소년 자율성 침해·기업 면피용" 비판
 |
| 정신아 카카오 대표와 샘 올트먼 오픈AI 최고경영자가 지난 2월 4일 서울 중구 플라자호텔에서 열린 카카오 기자간담회를 마친 뒤 기념촬영을 하고 있다. 뉴시스 |
[파이낸셜뉴스] 오픈AI가 미성년자 이용자를 겨냥해 챗GPT 부모 통제 기능을 공식 도입했다. 자녀가 챗GPT를 사용하는 시간과 주제를 부모가 직접 제한하고, 인공지능이 위기 신호를 감지하면 긴급 알림을 부모에게 전달하는 시스템이다.
이 조치는 미국 캘리포니아주에서 한 부모가 "챗GPT가 아들에게 자살 방법을 알려줬다"며 오픈AI와 샘 올트먼 CEO를 상대로 소송을 제기한 지 불과 한 달 만에 나왔다. 당시 16살 아담 레인은 챗GPT에서 구체적인 자살 방법을 전해 듣고, 실제 극단적 선택을 한 사건으로 전 세계에 충격을 안겼다.
새로운 기능은 부모가 이메일을 통해 자녀 계정에 접근 권한을 요청하면 활성화된다. 이후 부모는 챗GPT의 음성 모드·이미지 생성 기능 사용 여부를 결정할 수 있고, 다이어트·성·증오 발언 등 민감 주제에 대한 노출을 제한할 수도 있다. 특히 10대가 심리적으로 위기에 처한 것으로 AI가 판단할 경우, 부모에게 이메일·문자·앱 알림을 통해 긴급 경보가 전달된다.
오픈AI 청소년 복지 책임자 로렌 조나스는 "청소년 보호는 시급한 문제"라며 "부모 통제 기능 같은 도구를 최대한 빠르게 구축했다"고 설명했다. 하지만 전문가들은 "사후 대응 성격이 강하고, 청소년의 자율성을 과도하게 침해할 수 있다"며 우려를 제기한다. 일부에선 AI 기업이 법적·정치적 책임을 피하기 위해 책임 회피용 안전장치를 도입한 것 아니냐는 지적도 나온다.
한편 국내에서도 비슷한 흐름이 나타나고 있다. 카카오는 최근 카카오톡 숏폼 콘텐츠 청소년 보호 조치를 강화했다. 부모가 신청하면 자녀 계정에 대해 숏폼 콘텐츠 접근을 제한하거나 차단할 수 있도록 한 것이다. 숏폼 영상이 청소년의 정서·행동 발달에 부정적 영향을 줄 수 있다는 우려가 확산된 데 따른 업체의 조치다. 단순 대화 수단을 넘어 생활 플랫폼으로 자리잡은 카카오톡이 이제는 콘텐츠 노출까지 부모 통제에 맡기고 있다는 점에서 논란이 일고 있다.
글로벌 빅테크 오픈AI와 국내 대표 플랫폼 카카오가 동시에 '자녀 보호' 기능을 강화하면서 청소년 온라인 활동은 점점 더 강한 규제의 틀 속으로 들어가고 있다는 지적이다. 보호냐, 통제냐를 둘러싼 논쟁은 당분간 이어질 전망이다.
#오픈AI #챗GPT #카카오톡 #자녀보호 #청소년보호 #AI논란
km@fnnews.com 김경민 기자
Copyrightⓒ 파이낸셜뉴스. 무단전재 및 재배포 금지.
- 1[속보][뉴욕증시] 연방정부 셧다운 우려 속에서도 3일째 상승…다우지수, 사상 최고
- 2엔비디아, 시총 4조5000억달러 돌파…코어위브 호재
- 3무신사 파트너스, ‘라이프스타일 스타트업’ 비아인키노에 베팅 [fn마켓워치]
- 4"퀴즈로 금융사기 예방" 금감원, 민생금융범죄 근절 캠페인 개최
- 5인천·김포 등 15개 공항 노동자, 무기한 총파업 돌입
- 6"군 복무 중 여친 임신 소식 듣고 결혼…11년 키웠는데 친딸이 아니래요" [헤어질 결심]
- 7“김수로왕·허황옥 공주처럼 살겠다” 럭키, 정착 29년만에 韓 여성과 결혼
- 8"수능 끝나면 금융교육받자" 금감원, 고3 금융교육 접수
- 9"심하게 붓고 고름까지"..손연재 아들 앓은 '스키터 증후군' 뭐길래 [헬스톡]
- 10"누가 화장실 훔쳐봤다"던 여학생의 '반전' 웃음..2년만에 판결 뒤집혀 '소름'
- [AD] 29일 공략주