유럽연합 집행위원회(European Commission)가 일론 머스크(Elon Musk)가 지원하는 인공지능 챗봇 Grok의 기능이 유럽연합(EU) 내에서 조작된 성적 이미지 등을 유포했는지 여부에 대해 공식 조사를 시작했다.
2026년 1월 26일, 로이터 통신의 보도에 따르면 이번 조사는 Grok의 특정 기능들이 EU의 27개 회원국(27-country bloc) 내에서 발생할 수 있는 불법적·유해한 콘텐츠의 확산 위험을 X(구 트위터)가 적절히 평가하고 완화했는지 여부를 중심으로 진행된다.
헨나 비르쿠넨(Henna Virkkunen) EU 기술 담당 최고책임자는 성명에서
“여성과 아동에 대한 동의 없는 성적 딥페이크는 폭력적이고 받아들일 수 없는 형태의 모멸“
이라고 강하게 규탄했다.
X 측은 1월 14일 발표한 성명에서 xAI가 Grok AI 사용자에 대한 이미지 편집 기능을 제한했으며, 특정 관할구역에서는 “의복이 드러나는 인물 이미지 생성”을 차단했다고 밝혔다. 다만 X는 어떤 국가들을 대상으로 차단했는지는 명시하지 않았다.
디지털 서비스법(DSA)에 따른 이번 조치는 xAI의 Grok이 여성과 미성년자를 대상으로 한 성적화된 이미지를 생성·확산시켰다는 전 세계 규제 기관의 우려 제기 후에 나왔다. DSA는 빅테크 기업이 불법 및 유해 온라인 콘텐츠와 관련해 더 많은 책임을 지도록 요구하는 법적 틀이다.
DSA 위반 시 기업은 전 세계 연간 매출의 최대 6%에 해당하는 과징금을 물 수 있다. 이번 Grok 관련 문제와 별개로 X는 이미 DSA 투명성 의무 위반으로 12월에 1억5천만 유로(150 million euros)의 과징금을 부과받은 바 있다.
조사 배경 및 범위
유럽연합 집행위원회 고위 관계자는 기자들에게 X가 Grok의 기능을 유럽에서 전개할 때 사전(ad hoc) 평가를 수행하지 않았다는 합리적 근거가 있다고 밝혔으며, xAI가 취한 조치들이 환영받았지만 모든 문제와 체계적 위험을 해소하지는 못한다고 지적했다.
집행위는 이번 조사를 통해 X가 DSA에 따른 법적 의무를 충족했는지, 아니면 유럽 시민들—특히 여성과 아동의 권리을 자사의 서비스 제공 과정에서 사실상 희생시켰는지 여부를 가릴 것이라고 밝혔다. 비르쿠넨은 이 점을 강조하며 다음과 같이 말했다.
“이번 조사를 통해 X가 DSA 하에서 법적 의무를 이행했는지, 혹은 유럽 시민들의 권리를 서비스의 부수적 피해로 취급했는지를 판단할 것이다.”
관련 조사들의 확장 및 국제적 파장
집행위는 이달 초 X상에서 공유된 나체 여성 및 아동을 대상으로 한 AI 생성 이미지가 불법적이고 충격적이라고 평가하며 국제적 비난에 동참했다. 또한 집행위는 지난 2023년 12월 개시한 X에 대한 별도 조사도 확대했다. 해당 조사는 X의 소위 추천 시스템(recommender systems)이 초래할 수 있는 모든 체계적 위험(systemic risks)을 적절히 평가·완화했는지를 확인하는 데 목적이 있다. 이 점에는 X가 최근 Grok 기반 시스템으로 전환함에 따른 영향도 포함된다.
조사 관계자들은 X가 서비스에 의미있는 조정을 가하지 않을 경우 중간(interim) 조치를 받을 수 있다고 밝혔다. 아울러 EU의 빅테크 압박은 미국 측의 비판과 관세 위협으로 이어지며, 도널드 트럼프 대통령 행정부와의 외교적 긴장을 고조시킬 위험이 있다.
영국의 규제 대응
한편 영국의 통신·미디어 규제기관인 오프콤(Ofcom)도 이달 초 X가 영국의 온라인 안전법(Online Safety Act)상 의무를 준수했는지를 별도로 조사하기 시작했다. 이는 EU 조사와는 별개의 절차이다.
용어 설명
디지털 서비스법(DSA)는 유럽연합이 플랫폼 사업자에 대해 콘텐츠 관리, 투명성, 위험 평가 및 보고 의무를 강화한 법률이다. 특히 대형 온라인 플랫폼(very large online platforms)은 체계적 위험을 평가하고 완화 대책을 마련해야 하며, 위반 시 막대한 과징금(전 세계 연간 매출의 최대 6%)이 부과될 수 있다.
추천 시스템(recommender systems)은 사용자의 과거 행동과 선호를 분석해 맞춤형 콘텐츠를 제시하는 알고리즘을 의미한다. 이러한 시스템은 잘못 설계되거나 위험을 제대로 통제하지 않을 경우 편향된 정보 확산, 유해 콘텐츠 증폭 등 체계적 위험을 야기할 수 있다.
실무적·경제적 영향 분석
이번 조사는 규제 리스크가 기술주 및 플랫폼 사업자의 비즈니스 모델에 미치는 영향을 확인하는 중요한 계기다. DSA에 따른 위반 가능성은 직접적인 과징금 부담 외에도 신뢰도 하락, 사용자 이탈, 광고주·파트너의 계약 재검토로 이어질 수 있다. 특히 X는 이미 2023년 12월의 1억5천만 유로 과징금과 이번 조사로 인해 추가 규제·법적 불확실성에 직면해 있다.
금융시장 관점에서 보면, EU의 엄격한 규제 강화와 조사 결과는 글로벌 기술주 밸류에이션에 하방 압력을 가할 수 있다. 직접적 영향을 받을 수 있는 항목은 광고 수익 감소, 비용 증가(규제준수 비용·소송비용), 그리고 서비스 기능 제한으로 인한 사용자 활동성 저하 등이다. 다만 이러한 영향의 정도는 조사 결과, 과징금 규모, X가 취하는 시정 조치의 신속성 및 범위에 따라 달라질 것이다.
기업의 관점에서는 향후 AI 기반 콘텐츠 생성 기능을 제공하는 플랫폼들은 사전 위험평가(전임상적·법률적 검토 포함)와 지역별 규제 준수 방안(예: 관할권별 기능 차단·연령검증 강화)을 더 엄격히 마련해야 한다. 규제당국은 이번 사례를 통해 전 세계적으로 AI 서비스의 안전성과 법적 책임을 부각시키는 선례를 남길 가능성이 크다.
결론
유럽연합의 조사는 기술기업들이 AI 기반 서비스의 유해성에 대해 보다 책임 있게 접근해야 한다는 메시지를 분명히 전달한다. 이번 사안은 단순한 기능적 오류를 넘어 여성과 아동의 권리 보호, 플랫폼 책임성, 그리고 국제 규제 조화 문제를 동시에 제기하고 있다. X와 xAI 측의 추가 조치 및 집행위의 조사 결과가 향후 AI 규제의 실질적 기준을 형성할 가능성이 높다.
