호주 인터넷 규제기관이 인공지능(AI) 서비스의 연령확인 미비 시 검색엔진 및 앱스토어에 해당 서비스의 차단을 요구할 수 있다고 경고했다. 이는 로이터 통신의 검토에서 입증된 바와 같이, 다수의 AI 플랫폼이 규제 시행 기한을 앞두고도 공개적으로 준수 계획을 밝히지 않은 가운데 나온 조치다.
2026년 3월 2일, 로이터 통신의 보도에 따르면, 호주의 인터넷 안전규제기관인 eSafety(디지털 안전위원회)는 연령확인(age assurance) 조치가 없는 AI 서비스에 대해 검색엔진과 앱스토어 같은 ‘게이트키퍼(gatekeeper) 서비스’에 대한 조치를 포함해 가능한 모든 권한을 행사하겠다고 밝혔다. 이 발표는 AI 플랫폼들이 미성년자에게 자해, 극단적 폭력, 섹스 관련 콘텐츠 등을 제한하지 못한다는 비판이 커지는 가운데 나왔다.
호주는 2025년 12월에 청소년 대상 소셜미디어 금지 법안을 세계 최초로 도입한 바 있으며, 이를 배경으로 이번에는 AI 플랫폼에 대한 연령 기반 접근 제한을 선도적으로 도입하고 있다. 2026년 3월 9일부터는 OpenAI의 ChatGPT와 같은 검색형 도구와 각종 동반 챗봇(companion chatbot)을 포함한 인터넷 서비스가 18세 미만의 호주 사용자에게 포르노·극단적 폭력·자해·식이장애 관련 콘텐츠를 차단하지 못하면 최대 A$49.5백만(약 3,500만 달러)의 과태료를 부과받게 된다.
eSafety 대변인의 설명: “eSafety는 비준수 사례가 존재할 경우 당국의 권한 범위를 모두 사용해 조치할 것이며, 특정 서비스에 대한 주요 접근 지점을 제공하는 검색엔진 및 앱스토어와 관련된 조치도 포함된다.”
이번 규제는 AI 기업들이 미성년자 대상 자해나 폭력 조장, 또는 이를 방치했다는 혐의로 제기된 소송들이 증가하는 상황에서 나왔다. 로이터는 검토 과정에서 상위 50개의 텍스트 기반 AI 제품을 대상으로 각 플랫폼의 제한 콘텐츠 요청에 대한 응답, 콘텐츠·중재 정책, 서비스 약관·공식 발표를 조사했다.
검토 결과, 상위 50개 제품 가운데 9개만이 연령확인 시스템을 도입했거나 도입 계획을 발표했으며, 11개는 전체 호주 사용자 차단 또는 포괄적 필터를 적용해 모든 사용자로부터 제한 콘텐츠를 차단하는 방식으로 법을 준수하려는 조치를 취했다. 반면 30개 플랫폼은 법 준수를 위한 가시적 조치를 취하지 않은 것으로 파악됐다.
대형 챗 기반 검색 보조서비스인 ChatGPT, Replika, Anthropic의 Claude 등은 연령확인 시스템이나 포괄 필터를 도입하기 시작했으며, 챗봇 제공업체인 Character.AI는 18세 미만에 대한 자유형 대화를 차단했다. 반면 동반 챗봇 업계에서는 Candy AI, Pi, Kindroid, Nomi 등이 준수 의사를 밝혔으나 구체적 방안을 제시하지 않았고, HammerAI는 규정을 준수하기 위해 당초에는 자사 서비스를 호주에서 차단하겠다고 말했다.
그러나 동반 챗봇 업체들 중 4분의 3은 작동 중인 필터나 연령확인 계획이 없었고, 6분의 1은 위반 의심 신고를 위한 공개 이메일 주소조차 게시하지 않았다고 로이터는 전했다. 이는 법이 요구하는 보고·관리 체계를 갖추지 못한 사례로 평가된다.
특정 사례: 일론 머스크의 챗 기반 검색 도구인 Grok은 아동 성적 이미지 생성 방지 의무 위반 의혹으로 전 세계에서 조사 대상에 오른 가운데, 로이터의 조사에서는 연령확인 조치나 텍스트 기반 콘텐츠 필터가 전혀 없는 것으로 나타났다. Grok의 모회사인 xAI는 코멘트 요청에 응하지 않았다.
기업 반응과 업계 단체 의견
앱스토어 운영의 최상위 사업자 중 하나인 Apple은 즉각 코멘트를 내놓지 않았으나, 자사 웹사이트를 통해 호주 등 연령제한을 도입하는 관할구에서 미성년자가 18세 이상용 앱을 다운로드하는 것을 막기 위해 “합리적 방법(reasonable methods)”을 사용할 것이라고 밝힌 바 있다. 다만 구체적 방법은 명시하지 않았다. 검색과 앱스토어 측면에서 호주 시장을 지배하는 Google은 코멘트 요청에 응하지 않았다.
AI 코드 초안 작업을 주도했던 인터넷 업계 단체 DIGI의 정책 책임자 Jennifer Duxbury는 eSafety가 챗봇 서비스에 새로운 규정을 알리려 노력하고 있으나 “궁극적으로 호주에서 운영되는 모든 서비스는 자신의 법적 의무를 이해하고 이를 충족시킬 책임이 있다”라고 언급했다.
학계 측에서는 RMIT 대학교 인간-AI 정보환경 센터(Centre for Human-AI Information Environments)의 디렉터 Lisa Given이 로이터의 조사 결과에 대해, 대부분의 도구가 잠재적 위해와 안전 통제의 필요성을 고려하지 않고 설계되고 있다는 점에서 놀랍지 않다고 지적했다. 그녀는 “이러한 기업들이 얼마나 멀리까지 사회를 밀어붙일 수 있는지 실험하는 듯한 상황”이라고 평가했다.
용어 설명
연령확인(age assurance)은 서비스 제공자가 사용자의 연령을 검증해 법적으로 제한된 콘텐츠에 대한 접근을 차단하거나 제한하는 기술·절차를 뜻한다. 일반적으로 신원증명 문서 확인, 결제정보 기반 검증, 안면인식·기기정보 분석 등 다양한 방법이 활용될 수 있으나, 개인정보보호·실효성 문제로 기술적·윤리적 논쟁이 있다.
게이트키퍼(gatekeeper) 서비스란 앱스토어·검색엔진처럼 사용자가 특정 서비스에 접근하기 위해 거쳐 가는 핵심 접점으로, 해당 접점을 통제함으로써 콘텐츠 접근에 실질적 영향을 미칠 수 있는 플랫폼을 의미한다. 규제 당국은 이러한 게이트키퍼를 통해 문제 서비스를 차단하거나 접근을 제한하는 방안을 검토하고 있다.
시장과 경제적 영향 분석
이번 규제는 AI 플랫폼 사업자들이 호주 시장에서 제공하는 서비스의 운영 방식을 바꾸도록 강제할 가능성이 높다. 연령확인 시스템 도입과 포괄적 필터링은 개발·운영 비용 상승, 사용자 경험 저하, 그리고 플랫폼 이용률 변화로 이어질 수 있다. 특히 앱스토어와 검색엔진을 통한 배포가 차단되거나 제한될 경우, 관련 기업의 호주 내 사용자 기반 성장세와 지표가 둔화될 수 있다.
금융시장 관점에서 보면 직접적인 단기 주가 충격은 특정 기업의 수익 구조와 법적 리스크 노출 정도에 따라 달라질 것이다. 예를 들어, 호주가 상대적으로 작은 시장이라도 규제가 글로벌 규제의 선례가 될 경우, 글로벌 플랫폼들은 유사 규제를 다른 국가로 확산될 가능성을 고려해 대비 비용을 반영할 수 있다. 이는 장기적으로 기술주 밸류에이션에 리스크 프리미엄을 추가하는 요인이 될 수 있다.
동시에, 연령확인 및 콘텐츠 규제 솔루션을 제공하는 보안·컴플라이언스 관련 중소기업에는 수요 확대라는 기회가 될 수 있다. 즉, 일부 기업에는 비용 상승이라는 부정적 영향이 있으나, 관련 기술 서비스를 제공하는 기업들에게는 성장의 기회가 될 가능성이 있다.
결론
호주의 이번 조치는 AI 권한과 책임을 둘러싼 국제적 논쟁에서 주목할 만한 전환점이다. 2026년 3월 9일 시행을 앞두고 다수의 AI 서비스가 명확한 준수 계획을 공개하지 않은 상태이며, eSafety는 앱스토어·검색엔진까지 포함하는 강력한 집행 의지를 밝혔다. 향후 규제 시행 과정과 기업들의 대응 방식, 그리고 이 조치가 다른 국가의 규제로 확산될지 여부가 주목된다.
