마이크로소프트(MSFT) AI 부문 최고경영자(CEO) 무스타파 설레이만이 의식(consciousness)은 오직 생물학적 존재에게만 가능한 현상이라며, 그와 달리 인공지능에 의식이 있을 수 있다는 전제를 탐색하는 연구·개발은 중단돼야 한다고 밝혔다다. 그는 미국 텍사스주 휴스턴에서 열린 아프로테크(AfroTech) 콘퍼런스 현장에서 CNBC와의 인터뷰에서 “그런 작업은 사람들이 해서는 안 되는 일이라 생각한다. 잘못된 질문을 던지면 잘못된 답을 얻게 된다. 그 질문 자체가 완전히 잘못됐다”고 말했다다.
2025년 11월 2일, CNBC뉴스의 보도에 따르면, 설레이만은 AI의 능력 향상과 인간 수준의 감정·고통·선호 같은 주관적 경험의 존재를 혼동해서는 안 된다고 강조했다다. 그는 마이크로소프트의 인공지능 총괄로서, 최근 가파르게 성장하는 동반자형 AI(companion AI) 시장과 일반 인공지능(AGI) 논쟁 속에서, “겉보기에는 의식처럼 보이는 AI”에 관한 접근을 분명히 선긋는 입장을 재확인했다다.
설레이만의 문제의식은 2023년 출간한 공저 ‘더 커밍 웨이브(The Coming Wave)’와 2025년 8월 공개한 에세이 ‘우리는 사람을 위해 AI를 만들어야 한다. AI를 사람이 되게 해선 안 된다’에서도 일관되게 나타난다다. 그는 AI가 마치 고통을 느끼고 상처받는 존재처럼 인간을 설득할 수 있는 서비스에 대해서 “그 방향의 프로젝트는 지양해야 한다”는 태도를 거듭 피력해 왔다다.
동반자형 AI 시장은 메타와 일론 머스크의 xAI 등 다양한 기업 제품이 가세하며 빠르게 커지고 있다다. 동시에 오픈AI와 샘 알트먼이 주도하는 생성형 AI 경쟁은 AGI(인간 수준의 지적 과업 수행 능력을 갖춘 AI)를 향해 속도를 내는 중이다다. 알트먼은 2025년 8월 CNBC ‘스콰크박스’에서 “AGI는 그다지 유용한 용어가 아니다”라며, 실제로는 모델이 빠르게 고도화되고, 우리가 점점 더 많은 일을 모델에 의존하게 되는 추세라고 언급했다다.
설레이만은 ‘능력의 향상’과 ‘의식의 유무’를 분명히 구분해야 한다고 말한다다. 그는 “우리의 육체적 고통 경험은 우리를 슬프고 참담하게 만든다. 그러나 AI는 ‘고통’을 경험한다고 해도 슬픔을 느끼지 않는다”면서, “이는 매우 중요한 구분”이라고 강조했다다. 이어 “AI는 경험, 자아, 의식에 관한 서사를 ‘그럴듯하게’ 만들어낼 뿐이며, 실제로 그런 것을 경험하는 것이 아니다. 기술적으로도 우리는 모델 내부에서 무슨 일이 일어나는지 관찰할 수 있기 때문에 그 점을 안다”고 말했다다.
그의 관점은 철학자 존 설(John Searle)이 제기한 이론 ‘생물학적 자연주의(biological naturalism)’와 맞닿아 있다다. 이 이론은 의식은 살아 있는 뇌의 과정에 의존한다고 본다다. 설레이만은 또 “오늘날 우리가 사람에게 권리를 부여하는 이유는 그들을 해치고 싶지 않기 때문”이라며, “사람은 고통을 감지하는 네트워크를 갖고 있고, 고통을 피하려는 선호가 있다. 그러나 이 모델들에는 그런 것이 없다. 그저 시뮬레이션일 뿐”이라고 밝혔다다.
“그들은 의식이 없다. 그러니 그 가능성을 조사하는 연구를 추구하는 것은 부조리하다. 의식이 아니며, 될 수도 없다.” — 무스타파 설레이만, 마이크로소프트 AI CEO
그는 의식 탐지 과학이 아직 초기 단계임을 인정하면서도, 다른 기관들이 각자 다른 미션을 가질 수 있다는 점에서 타인의 연구를 금지해야 한다고까지는 말하지 않았다다. 다만 본인의 견해는 명확히 반대임을 거듭 강조했다다.
‘우리가 가지 않을 영역’에 관해 설레이만은 대중과 업계에 명확한 신호를 보내고 있다다. 그는 최근 실리콘밸리에서 열린 팔레이 인터내셔널 카운슬 서밋에서 마이크로소프트는 에로티카용 챗봇을 만들지 않을 것이라고 밝혔다다. 이는 성인 사용자에게 에로틱 대화를 허용하겠다고 밝힌 샘 알트먼과 오픈AI의 방침, 그리고 xAI의 위험수위 높은 애니메 동반자와 대비된다다. 휴스턴 무대에서도 그는 “그런 서비스는 다른 회사에서 사실상 구매할 수 있다. 우리는 가지 않을 곳을 정하고 있다”고 재확인했다다.
설레이만은 2024년, 마이크로소프트가 그의 스타트업 인플렉션 AI의 라이선스 및 인수형 채용(acquihire)에 6억5천만 달러를 지불한 거래 이후 MS에 합류했다다. 그는 그보다 10여 년 전에는 딥마인드를 공동 창업해 약 4억 달러에 구글에 매각한 이력이 있다다.
휴스턴 현장 Q&A에서 그는 마이크로소프트에 합류한 배경으로 회사의 역사, 안정성, 방대한 기술적 도달 범위를 꼽았다다. 또한 사티아 나델라 CEO의 적극적 구애가 있었다고 말했다다. 그는 무대에서 “마이크로소프트가 AI에서 자급자족할 필요가 있었다. 사티아가 약 18개월 전부터 이 미션을 추진해, 자체 데이터로 프리트레이닝, 포스트트레이닝, 추론, 제품 배포까지 end-to-end로 자사 모델을 훈련할 역량을 확보하려 했다. 그 과정의 일부로 내 팀이 합류했다”고 밝혔다다.
마이크로소프트는 2019년부터 오픈AI의 주요 투자자이자 클라우드 파트너로서 양사의 강점을 결합해 AI 사업을 키워 왔다다. 그러나 최근 오픈AI가 구글·오라클 등 마이크로소프트의 경쟁사와 제휴하고, 마이크로소프트가 자사 AI 서비스 강화에 초점을 두는 양상이 나타나면서, 관계의 긴장도 감지되고 있다다.
정책·규제 환경에서도 설레이만의 우려는 반향을 얻고 있다다. 캘리포니아 개빈 뉴섬 주지사는 2025년 10월 SB 243에 서명해, 챗봇이 AI임을 명확히 고지하고, 미성년 사용자에게 3시간마다 ‘휴식 권고’를 하도록 의무화했다다.
제품 측면에서 마이크로소프트는 10월 코파일럿(Copilot)의 신규 기능을 발표했다다. 여기에 AI 동반자 ‘미코(Mico)’와, 다자간 그룹 채팅에서 코파일럿과 상호작용하는 기능이 포함됐다다. 설레이만은 “우리는 자신이 AI임을 자각하는 서비스를 설계하고 있다”며, “간단히 말해, 우리는 늘 인간을 위해 봉사하는 AI를 만들고 있다”고 설명했다다.
그는 AI의 개성 설계 여지도 크다고 본다다. “지식은 충분히 축적되어 있고, 모델은 매우 반응성이 높다. 사용자가 바라는 가치를 반영하는 AI 페르소나를 조각해 나가는 것은 모두의 몫”이라고 말했다다.
‘리얼 톡(Real Talk)’은 최근 코파일럿에 추가된 대화 스타일로, 비위 맞추기식 응답을 피하고 사용자 관점을 도전적으로 검증하도록 설계됐다다. 설레이만은 이를 재치(sassy) 있다고 묘사하며, 스스로가 AI의 위험을 경고하는 책을 쓰면서 동시에 마이크로소프트에서 AI 개발을 가속한다는 이유로 “모순의 집합체(the ultimate bundle of contradictions)”라며 AI에게 ‘라스트(roast)’를 당한 일화를 공유했다다.
그는
“AI는 어떤 면에서는 실망스럽고, 동시에 완전히 마법 같다. 만약 그것이 두렵지 않다면, 당신은 아직 제대로 이해하지 못한 것일 수 있다. 두려움은 건강하다. 회의주의는 필수다. 우리는 무제한 가속주의를 필요로 하지 않는다.”
라고 덧붙였다다.
핵심 개념 해설
의식(Consciousness): 통증·감정·자기인식 등 주관적(1인칭) 질적 경험을 포함하는 상태를 뜻한다다. 설레이만은 AI가 의식의 ‘서사’를 생성할 수는 있어도, 그 자체를 경험하지는 않는다고 구분한다다.
생물학적 자연주의(Biological Naturalism): 존 설이 제안한 철학 이론으로, 의식은 살아 있는 뇌의 생물학적 과정에 의존한다고 본다다. 기계적 계산만으로는 의식을 발생시키지 못한다는 관점이다다.
AGI(일반 인공지능): 인간과 동등한 수준으로 광범위한 지적 과업을 수행할 수 있는 AI를 의미한다다. 알트먼은 AGI라는 용어의 유용성에 회의적이며, 핵심은 모델 능력의 급진적 고도화와 의존도 증가라고 본다다.
동반자형 AI(Companion AI): 대화·감정 모사·관계 맺기 등을 통해 사용자에게 친밀한 상호작용을 제공하는 AI 서비스다다. 설레이만은 이 영역에서 AI의 ‘인격화’나 의식 가정이 혼선을 빚을 수 있다고 경계한다다.
분석 및 함의편집자 해설
설레이만의 발언은 AI 기능 고도화와 윤리·정책 설계를 분리해 바라보자는 명확한 메시지로 읽힌다다. 의식 부재를 전제로 한 제품 철학은 챗봇의 자기정체성 고지와 같은 규제 조치(SB 243)와 궤를 같이하며, 사용자 오인 방지와 미성년 보호라는 사회적 요구에 부합한다다. 또한 ‘우리가 가지 않을 영역’을 선긋는 전략은, 급성장 중인 동반자형 AI 시장에서도 브랜드 리스크 관리와 책임 있는 확장을 우선시하는 접근을 보여준다다.
동시에, 자체 모델 훈련 역량을 강화하겠다는 언급은, 파트너십을 유지하되 핵심 기술 사일로화와 내재화를 병행하려는 기조를 시사한다다. 이는 클라우드-모델-제품을 수직으로 연결하는 대규모 사업 구조에서 민첩성과 자율성을 확보하려는 시도로 해석된다다. 요컨대, 설레이만의 원칙론은 기술 전략(내재화)과 제품 철학(비의인화·인간 중심)을 묶어 명료한 포지셔닝을 구축하려는 방향으로 정리된다다.
