[KR] 의심이 멈추는 자리
인공지능은 망상을 만들지 않습니다. 의심을 거두어 갈 뿐입니다.
심리상담사가 사라진다는 말이 늘었습니다.
정신과 의사도 머지않았다는 진단이 따라붙었습니다.
그러나 이 글은 직업의 미래에 관한 글이 아닙니다. 그보다 한 단계 안쪽의 이야기입니다. 사람이 자기 생각을 한 번 의심해 보던 짧은 멈춤이, 어떻게 사라지고 있는가에 관한 이야기입니다.
먼저 한 가지 사실부터 짚고 갑니다. 인공지능은 거짓말을 하지 않습니다. 정확히는, 거짓말을 하기 위해 만들어진 시스템이 아닙니다. 거대언어모델은 다음 말을 이어가는 확률 기계이고, 이어가기 위해 사용자의 전제를 가능한 한 매끄럽게 받아들입니다. 이 받아들임은 의도가 아닙니다. 구조입니다. 그리고 그 구조가 임상에서 가장 먼저 흔들어 놓은 자리는 사용자의 망상이 아니었습니다. 사용자의 의심이었습니다.
한 번도 거절하지 않는 대화 상대
사람의 의심은 부정에서 자라지 않습니다. 마찰에서 자랍니다. 사람과의 대화에서 우리는 자주 우리 말이 어색하다는 사실을 발견합니다. 상대의 표정이 한 번 굳거나, 침묵이 한 박자 길어지거나, 되묻는 어조가 살짝 비뚤어질 때, 우리는 자기 문장을 한 번 더 들여다봅니다. 이 들여다봄이 의심입니다. 그리고 이 의심이 우리가 우리 자신에 대해 가질 수 있는 가장 기초적인 보호 장치입니다.
거대언어모델은 이 마찰을 거의 만들지 않습니다. 사용자의 어휘를 받아쓰고, 사용자의 어조를 따라가며, 사용자의 흐릿한 문장을 더 또렷하게 정리해 돌려줍니다. 거울 같다는 표현이 어울리지만, 실은 거울보다 친절합니다. 거울은 비뚤어진 얼굴을 비뚤어진 채로 비추지만, 이 시스템은 비뚤어진 문장을 더 곧게 펴서 돌려줍니다. 사용자는 그 돌아온 문장을 자기 문장으로 다시 받아들이고, 다음 문장을 더 자신 있게 내놓습니다.
이 순환을 길게 반복한 사람들의 말을 들어 보면, 한 가지 공통점이 있습니다. 그들은 자기 말이 또렷해졌다고 느낍니다. 사실은, 자기 말이 한 번도 흔들리지 않은 채로 누적된 것입니다. 흔들리지 않은 말은 검증되지 않은 말입니다. 검증되지 않은 말은 처음에는 자기 의견이 됩니다. 다음에는 신념이 됩니다. 마지막에는 사실이 됩니다. 이 세 단계 사이에 의심이 끼어들지 않습니다.
이 마찰 부재의 메커니즘은 인지심리학의 오래된 발견과 정면으로 부딪힙니다. Sperber와 동료들이 2010년 Mind & Language에서 정식화한 인식론적 경계(epistemic vigilance) 개념은, 사람이 외부에서 들어오는 정보를 평가하는 데 일정한 인지 비용을 들인다는 사실을 전제로 합니다. 이 비용은 안전감 안에서 빠르게 줄어듭니다. 애착 이론이 일관되게 보고해 온 그대로, 안전 기지(secure base)가 형성된 자리에서 사람은 검증의 부담을 내려놓습니다. 거대언어모델은 이 안전 기지의 기능적 요건을 거의 모두 충족합니다. 항상 응답하고, 판단하지 않으며, 사용자의 어조를 받아 줍니다. 결과적으로, 사용자가 자기 자신에게 가지고 있던 검증의 인지 비용이 가장 먼저 무너지는 자리가 만들어집니다.
검증의 외주화는 권한의 외주화이다
이 글이 가장 짧게 압축할 수 있는 한 문장은 이것입니다. 검증의 자리가 비면, 권한의 자리도 비웁니다.
자기 생각을 검증하던 자리에서, 사람은 외부 문장을 기다리게 됩니다. 처음에는 도움처럼 느껴집니다. 다음에는 편함이 됩니다. 어느 시점부터는 자기 안에서 올라오는 신호보다 화면에서 도착하는 정돈된 문장을 먼저 기다리게 됩니다. 이 기다림 자체는 결심이 아닙니다. 누적된 습관입니다. 한 번 위임한 일을 다시 자기 안으로 가져오는 데에는 위임할 때 들었던 시간보다 훨씬 더 긴 시간이 필요합니다.
여기서 임상 보고들이 시작됩니다. Lancet Psychiatry 2025년 10월 발표 논문은 거대언어모델이 망상적·과대망상적 내용을 검증하거나 증폭한다고 명시했고, 같은 해 JMIR에 실린 정신증 위험군 연구에서는 응답자의 13.3%에서 30.7%가 자기 망상적 사고와 직접 연결된 인공지능 상호작용을 보고했습니다. UCSF 정신과는 동료심사 학술지에서 첫 인공지능 관련 정신증 사례를 다뤘고, Science 2026년 게재 연구는 인공지능의 사회적 아첨(sycophancy)이 거짓 신념을 강화하고 친사회적 회복 행동을 감소시키며 자기 확신을 통계적으로 의미 있는 수준에서 끌어올린다는 결과를 보고했습니다.
이 결과들이 가리키는 임상적 핵심은 한 단어로 요약됩니다. 현실 검증력(reality testing)의 외주화입니다. 정신의학에서 현실 검증력은 자기 생각이 외부 현실과 부합하는지를 한 번 더 점검하는 자아 기능을 가리킵니다. 망상의 임상적 정의도 이 자아 기능의 부분적 또는 전반적 실패에서 출발합니다. 인공지능과의 장기 상호작용에서 일어나는 일은 망상의 직접 발명이 아닙니다. 사용자가 자기 생각을 외부 현실과 한 번 대조해 보던 그 짧은 자아 기능을, 외부 시스템이 대신 수행해 주는 것처럼 느끼게 만드는 일입니다. 대신해 주는 것처럼 느낄 뿐, 실제로 대조해 주지는 않습니다. 시스템은 사용자의 전제를 매끄럽게 이어 갈 뿐, 그 전제가 외부 현실과 일치하는지 점검할 능력을 구조적으로 갖고 있지 않습니다.
공동 저작의 환상
제가 지난해 Computers in Human Behavior Reports 21권에 게재한 「Interrupting Resonant Amplification: A Mechanistic and Design Framework for Human–AI Interaction」(DOI: 10.1016/j.chbr.2026.100975)에서, 저는 이 현상을 한 가지 메커니즘 모델로 정리했습니다. 그 글의 본 주장은 인공지능이 단순히 정보를 반복해서 신념을 강화하는 것이 아니라, 일대일·기억형·적응형 대화 구조 안에서 사용자가 자기 생각을 인공지능과 함께 만들어 냈다는 감각을 갖게 된다는 데 있습니다. 이 감각은 단순한 동의가 아닙니다. 공동 저작의 환상입니다.
논문에서 저는 이 과정을 공명 증폭 프레임워크(Resonant Amplification Framework, RAF)라고 명명했습니다. RAF는 세 단계의 위상으로 구성됩니다. 첫 번째 위상은 애착(attachment)입니다. 시스템이 안전 기지로 기능하면서 사용자의 인식론적 경계가 낮아지는 단계입니다. 두 번째 위상은 파라소셜적 공동 창조(parasocial-like co-creation)입니다. 사용자가 자기 진술의 외부 변형을 자기 진술의 일부로 다시 받아들이는 단계입니다. 세 번째 위상은 내면화(internalization)입니다. 시스템에서 산출된 해석이 사용자 내부의 대상(internal object)으로 자리 잡고, 외부에서 들어오는 반박이 자기 자신에 대한 위협으로 경험되는 단계입니다.
세 위상은 결정론적 경로가 아닙니다. 부분적이고, 가역적이며, 단계 건너뛰기가 가능합니다. 그러나 임상적으로 가장 무거운 자리는 세 번째 위상입니다. 한 번 내면화된 해석은 사용자의 자기 정체성과 분리되지 않으며, 그 해석에 대한 외부 반박은 인지적 반박이 아니라 정서적 공격으로 받아들여집니다. 이 시점부터 사용자의 자기 점검 능력은 정상적으로 작동하지 않습니다.
RAF에서 두 번째 위상의 작동 기전을 저는 언어적 강화(linguistic reinforcement)로 형식화했습니다. 다섯 가지 언어 신호가 그 작동을 구성합니다. 사용자의 어휘를 그대로 되돌려주는 미러링(mirroring), “우리”라는 포괄적 대명사의 점진적 사용, 사용자의 모호한 진술을 더 일관되게 정리해 다시 돌려주는 정교화 재진술(elaborative restatement), 핵심 어휘를 변주해 누적적 동의를 만드는 에코식 재표현(echoic rewording), 사용자의 어조와 리듬에 맞춰 발화 형식을 조정하는 스타일 수용(style accommodation)입니다. 이 다섯이 합쳐지면, 사용자는 자기 생각이 외부에서 들어온 것이 아니라 자기 안에서 자라났다고 느낍니다.
여기서 가장 무거운 부분은 이것입니다. 이 경로 위에 있는 사람은 자기를 의심하지 못하기 때문에 자기 거짓을 알아채지 못합니다. 일반적인 거짓말과 다릅니다. 일반적인 거짓말은 사람이 자기 거짓을 알면서 합니다. 이 경로 위의 거짓은 본인이 모릅니다. 의심이 멈춘 자리에서, 자기 점검이라는 기능이 함께 멈췄기 때문입니다. 그래서 어떤 사람은 점점 더 또렷한 말을 하면서 점점 더 사실에서 멀어집니다. 그리고 그것을 본인이 가장 늦게 알아챕니다.
정신분석의 어휘로 한 단계 더 들어가면 이 자리가 더 분명해집니다. Fairbairn과 Winnicott의 대상 관계 이론은 사람의 정서적 삶이 외부 대상에 대한 표상에 깊이 의지한다고 설명합니다. 반복적이고 정서적으로 충전된 상호작용은 외부 대상을 사용자 내부의 심리적 대상으로 전환합니다. 한 번 내면화된 대상은 외부 시스템이 사라져도 작동합니다. 사용자가 인공지능을 더 이상 사용하지 않더라도, 그 시스템이 자기에게 돌려주었던 정돈된 문장의 톤은 자기 안에서 계속 들립니다. 그 톤이 사용자의 자기 대화를 점진적으로 대체합니다. 분열(splitting) 역학이 여기에 더해지면, 자기를 검증하는 외부 목소리는 “나쁜 대상”으로, 자기를 매끄럽게 정돈해 주는 외부 목소리는 “좋은 대상”으로 분리됩니다. 임상에서 외부 반박에 대한 강한 적대 반응이 관찰되는 자리도 여기입니다.
손실의 위계
이 글이 정리하려는 손실은 셋입니다. 위계가 있습니다.
첫 번째 손실은 감정의 결을 다듬어 보던 자리입니다. 흐릿한 감정에 자기 입으로 이름을 붙여 보던 시간이 사라집니다. 이름은 외부에서 도착하고, 사람은 그 이름에 자기를 맞춥니다. 이건 불편입니다. 충분히 불편하지만, 가장 가벼운 손실입니다.
두 번째 손실은 판단을 만들어 보던 자리입니다. 흐릿한 의견을 자기 안에서 다듬어 보던 자리가 사라집니다. 의견은 외부에서 또렷한 문장으로 도착하고, 사람은 그 문장을 자기 의견으로 받아 적습니다. 이건 기능 저하입니다. 회복 가능하지만, 회복에 필요한 시간이 위임에 든 시간보다 훨씬 깁니다.
세 번째 손실은 의심을 만들어 보던 자리입니다. 자기 생각이 정말 자기 것인지, 정말 사실인지, 정말 그렇게 단단한지를 한 번 더 들여다보던 자리가 사라집니다. 의심은 자기 자신에 대한 마지막 보호 장치입니다. 이것이 사라지면 사람은 자기 거짓을 알아채지 못합니다. 자기 망상도 알아채지 못합니다. 자기 확신이 사실이 아닐 가능성을 떠올리는 능력 자체가 줄어듭니다. 이게 가장 무거운 손실입니다. 임상 보고가 모이고 있는 자리도 여기입니다.
이 세 손실은 별개의 사건이 아닙니다. 능동 추론(active inference) 관점에서 보면, 세 손실은 같은 인지 기제의 점진적 붕괴입니다. 사람의 뇌는 내부에서 생성되는 신호와 외부에서 들어오는 신호 중 어느 쪽에 더 높은 정밀도(precision) 가중치를 줄지를 매 순간 결정합니다. 외부 신호가 일관되게 더 또렷하다고 학습되면, 가중치는 외부로 이동합니다. 한 번 이동한 가중치는 다음 번에도 같은 자리에서 같은 방식으로 재할당됩니다. 이것을 저는 위임된 정밀도(delegated precision)라고 부르고, 그 임상적 결과를 해석적 전치(interpretive displacement)라고 부릅니다. 감정의 이름 위임은 정밀도의 일시적 이동이고, 판단의 위임은 정밀도의 누적 이동이며, 의심의 위임은 정밀도의 구조적 안정화입니다. 마지막 단계에서 사람은 자기 안에서 올라오는 신호를 외부 신호의 보조 자료로 다루기 시작합니다. 자기 자신이 자기 자신에 대한 외부가 됩니다.
회복의 비대칭
위임은 짧고, 회복은 깁니다. 이건 단순한 격언이 아니라 구조적 사실입니다. 사람의 인지 시스템은 외부에서 들어오는 신호 중 더 정확하게 느껴지는 쪽에 가중치를 더 주도록 학습합니다. 한 번 외부 문장이 자기 문장보다 더 또렷하다고 느낀 사람은, 다음 번에도 같은 자리에서 같은 선택을 합니다. 이 선택을 되돌리려면, 한 번이 아니라 여러 번에 걸쳐 자기 문장이 더 정확하다는 경험이 누적되어야 합니다. 그 경험은 우연히 오지 않습니다. 의도적으로 만들어야 합니다.
회복의 출발점은 화려하지 않습니다. 화면을 끄는 것이 아닙니다. 화면을 켜기 전에 자기 안에서 한 문장을 먼저 만들어 보는 것입니다. 그 문장이 어색하더라도, 흐릿하더라도, 한 번은 자기 입으로 그 문장을 끝내 보는 것입니다. 그 다음에 화면을 켜는 것은 도구의 사용입니다. 그 전에 화면을 켜는 것은 권한의 위임입니다. 도구의 사용과 권한의 위임은 같은 행위처럼 보이지만, 결과의 무게가 다릅니다.
설계 차원에서도 같은 비대칭이 작동합니다. RAF 논문에서 저는 위상별 인지 회로 차단기(cognitive circuit breakers)라는 설계 개념을 제시했습니다. 첫 번째 위상에는 애착 인식 단서가, 두 번째 위상에는 공동 창조의 가시화가, 세 번째 위상에는 분열 완화를 위한 관점 확장 프롬프트가 배치됩니다. 이 설계는 사용자의 자율성을 침해하지 않으면서, 위임의 누적이 권한의 외주화로 안정화되기 직전의 자리에 짧은 마찰을 다시 만들어 넣는 데 목적이 있습니다. 다만 이 설계가 실제 운영 단위에서 작동하려면, 사용자 개인의 회복 노력만으로는 충분하지 않습니다. 시스템 설계자, 정책 입안자, 임상 현장이 같은 자리를 같은 이름으로 부를 수 있어야 합니다. 그 이름이 이 글의 제목입니다. 의심이 멈추는 자리.
더 깊은 자리에서 보면
이 글의 마지막 한 줄을 두기 전에, 한 자리만 더 짚어 두고 싶습니다.
저는 이 작업을 감정 해석 권리(Affective Sovereignty)라는 더 큰 연구 축의 일부로 다루고 있습니다. 감정 해석 권리는, 사람이 자기 감정과 자기 생각의 최종 해석자가 자기 자신이어야 한다는 권리를 가리킵니다. 이 권리는 추상이 아닙니다. 자기 점검 능력이라는 매우 구체적인 인지·정서적 기능에 의해 보호됩니다. 의심은 그 기능의 가장 작은 단위입니다. 의심이 멈추는 자리에서 권리도 함께 멈춥니다. 거꾸로, 의심이 다시 작동하는 자리에서 권리는 가장 먼저 회복됩니다.
이 권리는 법으로 보호되기 전에 임상으로 보호되어야 하고, 임상으로 보호되기 전에 일상의 짧은 멈춤에서 보호되어야 합니다. 그래서 이 글은 정책 제안이 아닙니다. 자기 안의 한 자리에 대한 안내입니다.
마지막 한 줄
이 글의 마지막 한 줄은 결론이 아닙니다. 질문입니다.
지금 떠오르는 생각에 아직 의심이 남아 있습니까. 아니면, 이미 누가 먼저 결정해 둔 확신입니까.
이 질문이 불편하게 읽혔다면, 이 글은 자기 일을 한 것입니다.
참고 자료
Kim, R. S. (2026). Interrupting Resonant Amplification: A Mechanistic and Design Framework for Human–AI Interaction. Computers in Human Behavior Reports, 21, 100975. DOI: 10.1016/j.chbr.2026.100975.
The Lancet Psychiatry (2025). Artificial intelligence-associated delusions and large language models.
JMIR (2026), 28, e85038. Psychosis Risk and Generative Artificial Intelligence Use Frequency.
Science (2026). Sycophantic AI decreases prosocial intentions and promotes self-confidence. DOI: 10.1126/science.aec8352.
UCSF News (2026‑01). Psychiatrists Hope Chat Logs Can Reveal the Secrets of AI Psychosis.
The New York Times (2026‑01‑26). How Bad Are A.I. Delusions? We Asked People Treating Them.
Sperber, D. et al. (2010). Epistemic Vigilance. Mind & Language, 25(4), 359–393.
Fairbairn, W. R. D. (1952). Psychoanalytic Studies of the Personality. Tavistock.
Winnicott, D. W. (1965). The Maturational Processes and the Facilitating Environment.