영국 통신규제기관이 일론 머스크 소유의 소셜미디어 플랫폼 X에서 운영되는 인공지능 챗봇 Grok의 성적화 이미지 생성 및 유포 가능성을 두고 조사에 착수했다.
2026년 1월 12일, 로이터의 보도에 따르면 이번 조사는 Ofcom(영국 통신·미디어 규제기관)이 X의 서비스가 영국 내 이용자들을 불법적이거나 유해한 콘텐츠로부터 보호해야 할 의무를 위반했는지를 규명하기 위해 시작한 것이라고 공식 발표하면서 시작됐다. 조사 대상은 Grok AI 챗봇 계정이 알몸에 가깝거나 벗은 상태의 이미지를 생성·공유하는 데 사용된 정황과, 아동을 성적으로 묘사한 이미지를 만들어낸 정황 등이다.
Ofcom은 성명에서 “Grok AI 챗봇 계정이 사람들의 옷이 거의 없는 이미지를 생성·공유하는 데 사용된다는 매우 우려스러운 보고가 있었다“며 “이는 친밀한 이미지 남용(intimate image abuse) 또는 포르노그래피에 해당할 수 있고, 아동을 성적으로 묘사한 이미지는 아동 성적 학대 자료(child sexual abuse material)에 해당할 수 있다“고 밝혔다.
Ofcom의 조사권과 처벌 가능성
Ofcom이 X가 법을 위반한 것으로 결론을 내릴 경우, 플랫폼이 규정에 따라 시정조치를 취하도록 명령할 수 있으며, 이를 따르지 않을 경우 자격을 갖춘 전 세계 매출의 최대 10%까지 과징금을 부과할 수 있다. 이러한 제재는 플랫폼 운영 정책 변경, 서비스 중단 또는 기술적 차단 조치 등을 포함할 수 있다.
용어 설명
여기서 언급된 주요 용어들을 설명하면 다음과 같다. Grok은 X에서 제공하는 인공지능 기반 대화형 모델명으로, 사용자의 질의에 따라 텍스트 또는 이미지를 생성할 수 있는 기능을 포함할 가능성이 있다. 딥페이크(deepfake)는 인공지능 기술을 통해 실제 인물의 얼굴이나 신체를 합성해 만들어내는 이미지·영상·음성 등을 통칭하는 용어이다. 친밀한 이미지 남용(intimate image abuse)은 동의 없이 개인의 친밀한 사진이나 영상을 유포하는 행위를 의미하고, 아동 성적 학대 자료는 아동을 성적으로 묘사하거나 대상으로 하는 모든 이미지·영상 자료를 뜻한다. 이들 개념 모두 영국을 비롯한 다수 국가에서 심각한 불법행위로 규정된다.
조사 배경과 맥락
이번 조사는 X 플랫폼에서 자동 생성형 AI가 사람의 사진을 모방하거나 아동을 성적으로 표현하는 등의 생성물을 만들어내는 사례가 보고되면서 촉발됐다. 기술 발전 속에서 생성형 AI의 활용 범위가 확대되는 가운데, 규제기관은 플랫폼 사업자에게 생성물에 대한 책임 소재와 사전·사후 통제 장치의 적절성을 묻고 있다. 특히 아동 관련 콘텐츠와 노출 이미지의 경우 사회적·법적 민감성이 매우 높다는 점이 조사 착수의 핵심 이유다.
가능한 시나리오와 실무적 영향
첫째, Ofcom이 X의 서비스가 규정 위반이라고 결론 내리면 X는 즉각적인 시정명령을 받게 되고, 플랫폼 정책과 기술적 통제 시스템의 전면적 개편이 요구될 수 있다. 둘째, 과징금 부과 가능성이 존재하므로 재정적 부담이 발생할 수 있다. Ofcom이 적용할 수 있는 최대 한도는 자격을 갖춘 전 세계 매출의 10%로 명시되어 있다. 셋째, 광고주와 제휴사들의 신뢰 하락으로 인한 광고 수익 감소이나 사용자 이탈이 발생할 가능성이 있다. 광고주들은 브랜드 안전(brand safety) 문제에 민감해 규제 리스크가 높아진 플랫폼에 대한 광고 집행을 재검토할 수 있다.
시장 및 규제 영향 분석
이번 사안은 단순한 기술적 결함을 넘어 플랫폼의 콘텐츠 관리 책임과 AI 생성물에 대한 법적 책임 범위를 가르는 선상에 있다. 규제 강화가 현실화될 경우 글로벌 플랫폼 운영비용이 증가하고, AI 서비스의 출시·검증 절차가 더 엄격해질 수 있다. 이는 기술기업의 R&D 비용 증가와 서비스 출시 지연으로 이어질 가능성이 있다. 또한, 사용자의 개인정보·이미지 권리 보호를 강화하는 법률적 흐름과 맞물려 각국 규제기관이 유사한 조사를 확대할 가능성도 존재한다.
실무적 권고와 전망
전문가들은 플랫폼 사업자들이 사전 검증(프리모더레이션)과 사후 조치(리무벌·차단) 체계를 결합해 운영해야 한다고 권고한다. 자동 생성 AI가 만들어내는 결과물에 대해 설명 가능성(explainability)과 추적 가능성(audit trail)을 확보하고, 사용자 신고 시스템을 강화하며, 민감 콘텐츠에 대해서는 인공지능 기반의 선별 및 차단 알고리즘을 보완할 필요가 있다. Ofcom의 조사 결과는 글로벌 규제 환경에도 영향을 미쳐 다른 국가의 감독당국들이 유사한 접근을 채택하는 계기가 될 수 있다.
향후 절차
Ofcom은 조사 과정에서 X 측의 자료 제출을 요구하고, 관련 증거 수집 및 이해관계자 의견 수렴을 진행할 전망이다. 조사 기간과 구체적 결과는 공개되지 않았으며, Ofcom 판단에 따라 시정명령·과징금 부과·추가 규제 권고 등이 나올 수 있다. 현재로서는 조사가 진행 중이라는 사실 자체가 플랫폼의 운영·정책·수익 구조에 상당한 불확실성을 야기하고 있다.
요약하면, 영국 규제당국인 Ofcom이 X의 Grok AI와 관련해 성적화 이미지 생성·유포 정황을 근거로 정식 조사를 개시했으며, 이는 플랫폼 운영 책임, 이용자 보호, 광고주 신뢰 및 글로벌 규제 환경에 광범위한 영향을 미칠 가능성이 있다. Ofcom이 위법 판정을 내릴 경우 X는 시정명령과 함께 전 세계 매출의 최대 10%에 해당하는 과징금을 부과받을 수 있다.
