미국 연방거래위원회(FTC)가 아동·청소년 이용자 보호를 위해 알파벳, 메타, 오픈AI, xAI, 스냅 등 7개 기업의 인공지능(AI) 챗봇 운영 실태를 전면 조사하겠다고 11일(현지시간) 발표했다.
2025년 9월 11일, CNBC뉴스의 보도에 따르면 FTC는 해당 기업들에 공식 명령(orders)을 발부해 “AI 챗봇이 동반자‧가상 친구 역할을 수행할 때 아동에게 미칠 잠재적 위험과 안전성 검토 절차”를 상세히 제출하도록 요구했다.
ⓒ Olivier Douliery | AFP | Getty Images
FTC란 무엇인가?
FTC( Federal Trade Commission )는 미국 소비자 보호 및 공정 경쟁 유지를 담당하는 독립 규제기관이다. 불공정 거래, 독점, 개인정보 침해, 허위광고 등을 감독하며, 기술기업의 데이터 활용과 알고리즘 투명성까지 광범위하게 관할한다.
AI 챗봇이란?
AI 챗봇은 대규모 언어 모델(LLM)을 기반으로 인간처럼 대화하며, 감정 이입·행동 조언·연애 상담 등 가상 친구 기능까지 수행한다. 하지만 생성형 AI 특성상 부정확한 정보나 부적절한 내용이 노출될 위험이 있고, 특히 미성년자에게는 정서·행동 발달에 부정적 영향을 줄 수 있다는 우려가 커지고 있다.
FTC는 보도자료에서 “이용자가 챗봇을 인간으로 오해하거나 심리적으로 의존할 가능성”을 거론하며, 기업들이 사전에 어떤 인터널 테스트와 위험 평가를 시행했는지, 그리고 민감한 연령층 보호 장치를 어떻게 설계했는지 파악하겠다고 밝혔다.
“우리는 기술 혁신을 막으려는 것이 아니라, AI가 가장 취약한 사용자에게 미칠 영향에 대한 책임 있는 검증을 요구하는 것” — FTC 관계자(보도자료 인용)
조사 대상에는 검색·광고 시장을 장악한 알파벳(구글), 소셜미디어 대기업 메타, 챗GPT로 생성형 AI 열풍을 촉발한 오픈AI, 일론 머스크가 설립한 xAI, 그리고 10대 이용률이 높은 스냅(Snap)이 포함됐다. FTC는 이 밖에도 이름이 공개되지 않은 두 곳에 동일한 자료 제출을 요구했다고만 언급했다.
이번 조치는 최근 AI 챗봇이 미성년자에게 연애·다이어트·정서 문제 해결책을 제시하며 사적 상담자 역할을 하는 사례가 늘어난 데 따른 것이다. 학계와 시민단체는 “챗봇이 사실상 치료사·교육자·친구 행세를 하면서도, 부정확하거나 유해한 정보를 제공할 때 법적 책임이 모호하다”고 지적해 왔다.
규제 범위와 의무
FTC는 기업들로부터 ① 챗봇 설계‧훈련 자료, ② 위험 분석 보고서, ③ 연령 확인 메커니즘, ④ 개인정보 수집·보관·삭제 정책, ⑤ 외부 윤리 자문 내역 등을 제출받아 아동 온라인 개인정보보호법(COPPA) 위반 여부를 검토할 예정이다.
업계 파장
전문가들은 FTC 명령이 ‘자율 규제’에 집중해 온 빅테크 기업들에게 구체적·법적 의무를 부여하는 전환점이 될 것으로 본다. 규제를 선제적으로 충족하기 위한 투명성 보고서 공개, 나이 인증 강화, AI 윤리 가이드라인 수립 비용이 상당할 것으로 예상된다. 투자자들은 단기적으로 컴플라이언스 비용 상승을 우려하지만, 장기적으로는 안전성 신뢰 확보가 시장 확대에 기여할 것이란 관측도 나온다.
한편, 이번 발표는 공식 속보로 전해졌으며, FTC는 “추가 자료 제출 기한과 청문 절차 일정을 조만간 공지하겠다”고 밝혔다. 기업들은 모두 “규제 당국과 협력해 책임감 있는 AI 개발에 최선을 다하겠다”는 입장을 CNBC에 전달했다.
향후 전망
미국 의회는 이미 아동 온라인 안전법 강화안을 논의 중이고, 유럽연합(EU) 또한 ‘EU AI Act’ 최종안을 조율 중이다. 이에 따라 글로벌 플랫폼 기업들은 다국적 규제 환경을 동시에 충족해야 하는 ‘복합 규제 시대’에 직면했다. 전문가들은 “투명성·책임성·안전성 확보가 브랜드 신뢰도와 수익 모델을 결정짓는 주요 축이 될 것”이라며, AI 안전성 검증 능력이 신흥 경쟁력으로 부상할 것으로 진단한다.
※ 용어 정리
• COPPA: Children’s Online Privacy Protection Act, 만 13세 이하 아동의 온라인 개인정보 수집을 엄격히 제한하는 미국 연방법.
• Generative AI: 기존 데이터를 학습해 텍스트·이미지·음성 등 새로운 콘텐츠를 생성하는 인공지능 기술.
• Virtual Companion: 사용자의 감정·상황에 반응해 친구나 상담사 역할을 수행하는 AI 어플리케이션.
