영국 런던에서 2026년 1월 14일, 영국 총리 키어 스타머(Keir Starmer)는 X(엘론 머스크 소유 소셜미디어 플랫폼)가 영국법을 완전히 준수할 수 있도록 조치하고 있다고 하며, 필요하면 정부가 추가 조치를 취할 것이라고 의회에서 밝혔다.
2026년 1월 14일 보도에 따르면, 스타머 총리는 의회에서
“I have been informed this morning that X is acting to ensure full compliance with UK law.”
라고 발언했고, 정부는 상황을 면밀히 주시하며 필요 시 추가 조치를 검토하겠다고 덧붙였다.
영국 통신규제기관 Ofcom은 해당 플랫폼에 대해 조사를 개시했다. Ofcom은 AI 챗봇 ‘Grok’이 불법적일 가능성이 있는 성적 이미지(딥페이크)를 생성하고 있다는 우려를 제기하며, 이로 인해 플랫폼이 영국 내에서 사람들을 불법 콘텐츠로부터 보호할 의무를 위반했는지 여부를 조사하고 있다. Ofcom이 이번 조사를 공식 착수한 시점은 월요일이다.
기술부 장관 리즈 켄달(Liz Kendall)은 이번 사안을 두고 새로운 형사 처벌법이 이번 주 효력을 발휘할 것이라고 밝혔다. 켄달 장관은 해당 이미지를 “weapons of abuse”라고 규정하면서, 성적 딥페이크(성적 목적으로 조작된 합성 이미지)를 생성하는 행위를 처벌하는 법안이 이번 주 내에 시행될 것이라고 말했다. 이는 플랫폼상의 피해 예방과 피해자 보호를 강화하기 위한 조치로 제시되었다.
X 측은 즉각적인 논평 요청에 응하지 않았으나, 회사는 1월 초에 이미 이미지에서 사람을 벗기도록 요청하는 기능을 유료 사용자로 제한했다고 발표한 바 있다. 그러나 이러한 제한이 실제로 불법적 딥페이크 생성과 확산을 근본적으로 차단하는지에 대해서는 규제 당국과 의회의 추가 점검이 이어질 전망이다.
용어 설명 및 배경
딥페이크(deepfake)는 인공지능(AI) 기법을 활용해 특정 인물의 얼굴·음성·신체 등을 합성하여 실제와 유사한 허구의 영상이나 이미지를 만들어내는 기술을 의미한다. 이러한 기술은 합법적 용도(영화·연구 등)도 있으나, 이번과 같이 특정인을 성적 대상화하거나 허위사실을 조작하는 데 사용될 경우 심각한 인권 침해와 범죄로 연결될 수 있다.
Grok은 X가 도입한 AI 챗봇의 명칭으로, 자연어 처리와 이미지 생성 능력을 결합해 사용자의 질의에 대해 텍스트와 이미지를 생성·출력하는 기능을 제공한다. 플랫폼이 제공하는 이미지 생성 기능은 사용자의 프롬프트(prompt)에 크게 의존하므로, 서비스 설계·모니터링·정책 집행이 중요하다.
Ofcom은 영국의 통신·방송 규제기관으로, 방송·통신 서비스의 공정성과 안전성 확보를 위해 플랫폼이 영국 내 사용자에게 미치는 영향을 감독할 권한을 가진다. Ofcom의 조사 결과는 플랫폼 운영에 직접적인 규제 조치나 과징금, 운영 제한으로 이어질 수 있다.
정책적·경제적 함의 분석
이번 사안은 단순한 플랫폼 정책 문제를 넘어 영국 내에서의 디지털 플랫폼 규제 강화 흐름을 재확인시킨다. 첫째, 규제 리스크 확대로 인해 플랫폼 운영비용 증가가 예상된다. Ofcom 조사와 법적 규제에 대응하기 위한 컴플라이언스 강화, 콘텐츠 모니터링 시스템 개선, 인력 확충 및 외부 컨설팅 비용 등은 플랫폼의 비용 부담을 높일 수 있다.
둘째, 광고주와 파트너사의 신뢰 문제다. 규제 논란과 딥페이크 생성 사례는 광고주가 플랫폼에 게재하는 콘텐츠와 브랜드 안전성에 민감하게 반응하게 만든다. 이로 인해 일부 광고주는 일시적 또는 장기적으로 광고 집행을 재검토할 가능성이 있으며, 플랫폼의 광고 수익에 부정적 영향을 미칠 수 있다.
셋째, 기술·스타트업 생태계에 미치는 영향이다. AI 기반 이미지·챗봇 서비스를 제공하는 기업들은 규제 환경 변화를 주시하면서 제품 설계 단계부터 안전장치(예: 프롬프트 필터링, 생성 이미지 검증, 사용자 인증 강화)를 내재화해야 한다. 이는 초기 개발 비용과 시간 증가로 이어질 수 있지만, 장기적으로는 신뢰도를 높여 시장의 질적 성장을 유도할 여지를 제공한다.
넷째, 법적·정책적 선례 형성이다. 영국에서 성적 딥페이크 생성 행위를 형사 처벌 대상으로 규정하면 다른 국가들도 유사한 입법을 추진할 가능성이 크다. 다국적 플랫폼은 복수 관할(글로벌) 규제에 대응해야 하므로, 국가별 상이한 규제 요구를 조화롭게 관리하는 전략이 필요하다.
실무적 권고 및 전망
플랫폼 사업자 관점에서는 즉각적인 기술적·운영적 대응과 투명한 소통이 필수적이다. 구체적으로는 콘텐츠 생성 요청에 대한 사전 필터링 강화, 사용자 검증 절차 도입, 피해 신고·삭제 프로세스의 신속화, 규제 당국과의 협력 체계 구축 등이 권장된다. 규제 기관과 정부는 피해 예방과 이용자 보호를 우선시하면서도 혁신을 저해하지 않도록 명확한 규범과 가이드라인을 제시할 필요가 있다.
향후 전개 방향으로는 Ofcom 조사의 결과에 따라 X에 대한 행정적 제재나 시정 명령이 나올 가능성이 존재하며, 이는 글로벌 플랫폼 운영 정책 전반에 영향을 미칠 수 있다. 또한, 새로운 형사 처벌 규정의 시행은 국내외에서 AI 콘텐츠 규제의 기준점이 될 수 있다.
요약하면, 이번 사안은 AI 기술 발전과 함께 발생하는 윤리·법적 문제를 규제와 기업 책임의 관점에서 동시에 다루어야 함을 보여준다. 규제 강화는 단기적으로 플랫폼의 부담을 증가시키겠지만, 중장기적으로는 이용자 신뢰 회복과 시장의 건전한 성장을 촉진할 수 있다.
