솔직히 저는 양자역학이라는 단어만 들어도 눈이 풀렸습니다. 수식 가득한 교과서, 이해하기 어려운 개념들. 그런데 어느 날 천재들이 서로 틀렸다고 싸우면서 답을 찾아갔다는 이야기를 접하고 나서 생각이 바뀌었습니다. 양자역학은 완성된 진리가 아니라, 틀리고 수정하고 다시 쌓아 올린 인간의 기록이었습니다.
천재들의 논쟁, 답을 모른 채 싸우다
하이젠베르크는 23세에 행렬 역학(Matrix Mechanics)을 발표했습니다. 행렬 역학이란 전자의 위치나 속도 같은 물리량을 행렬이라는 수학적 배열로 표현하는 방식으로, 기존 고전 역학의 언어를 완전히 버리고 새 틀을 짠 것입니다. 당시 물리학자들은 이 방식이 너무 추상적이라며 거부감을 가졌습니다.
반면 슈뢰딩거는 다른 길을 걸었습니다. "전자가 파동이라면, 그 파동을 기술하는 방정식이 있을 것이다"라는 생각에서 출발해 슈뢰딩거 방정식(Schrödinger Equation)을 도출했습니다. 슈뢰딩거 방정식이란 입자의 파동 함수(Wave Function)가 시간에 따라 어떻게 변하는지를 기술하는 식으로, 전자의 위치를 확률로 예측하게 해줍니다. 파동이라는 직관적인 이미지 덕분에 많은 과학자들이 이쪽 손을 들었습니다.
두 사람은 누구의 이론이 옳은가를 두고 치열하게 맞붙었습니다. 슈뢰딩거의 강연 자리에서 하이젠베르크가 전자의 입자성을 들어 공격을 퍼붓자 주변 사람들이 말릴 정도였다고 합니다. 제가 직접 겪어보니 품질관리 업무에서도 비슷한 상황이 벌어집니다. 원인을 하나로 단정해 놓고 달려들었다가 추가 데이터를 확인하고서 전혀 다른 결론에 도달하는 경우가 꽤 있습니다. 그 순간의 당혹감이 하이젠베르크와 슈뢰딩거에게도 있지 않았을까 싶었습니다.
결말은 예상을 빗나갔습니다. 슈뢰딩거가 두 이론이 수학적으로 동등함을 직접 증명했습니다. 행렬 역학과 파동 방정식은 더 보편적인 수학 구조에서 나오는 서로 다른 표현 방식일 뿐이었고, 어느 쪽으로 풀어도 답은 같았습니다. 자신의 이론이 상대방과 다를 바 없다는 사실을 깨달은 하이젠베르크의 심정이 어땠을지, 생각해볼수록 씁쓸하면서도 인상 깊습니다.
중첩과 관측, 직관이 무너지는 순간
양자역학의 핵심은 중첩(Superposition)입니다. 중첩이란 하나의 입자가 서로 다른 두 가지 상태를 동시에 가지는 것을 의미합니다. 이걸 가장 잘 보여주는 것이 이중 슬릿 실험(Double-slit Experiment)입니다.
전자를 두 개의 가느다란 구멍이 뚫린 판에 쏘면, 뒤쪽 스크린에는 두 줄이 아닌 여러 개의 간섭 무늬가 나타납니다. 전자 하나를 쏘아도 마찬가지입니다. 입자 하나가 두 구멍을 동시에 지나 자기 자신과 간섭을 일으킨다는 뜻입니다. 그때 느낀 건, 이게 단순한 물리 현상이 아니라 "당연하다"고 믿었던 세계관이 흔들리는 순간이라는 것이었습니다.
그런데 여기서 더 이상한 일이 생깁니다. 전자가 어느 구멍을 지나는지 확인하기 위해 측정 장치를 설치하면, 간섭 무늬가 사라지고 두 줄만 나타납니다. 파동 함수가 붕괴(Wave Function Collapse)되는 것입니다. 파동 함수 붕괴란 관측 이전까지 여러 가능성의 중첩 상태에 있던 입자가 측정 순간 하나의 확정된 상태로 수렴하는 현상을 말합니다. 입자성을 보려는 순간 파동성이 사라지고, 파동성을 보려는 순간 입자성이 사라지는 동시 관측 불가의 원리가 여기서 나옵니다.
코펜하겐 해석(Copenhagen Interpretation)은 이 현상을 "양자 시스템을 거시 세계가 관측하면 고전적인 결과만 나타난다"고 설명합니다. 그런데 솔직히 이건 예상 밖이었습니다. '얼마나 커야 거시 세계냐'는 질문에 코펜하겐 해석은 명확한 답을 주지 못합니다. 슈뢰딩거의 고양이는 바로 이 허점을 찌르는 사고 실험입니다. 상자 안의 고양이가 방사성 붕괴와 연동된 독극물 장치와 함께 있다면, 관측 전 고양이는 살아 있는 동시에 죽어 있는 상태여야 합니다. 거시적 존재가 동시에 두 상태를 가진다는 것, 상식으로는 도저히 받아들이기 어렵습니다.
양자역학이 설명하는 이중 슬릿 실험의 핵심을 정리하면 다음과 같습니다.
- 전자 하나가 두 구멍을 동시에 지나 자기 자신과 간섭한다
- 여러 전자를 쏘면 확률 분포로 간섭 무늬가 형성된다
- 측정 장치를 설치하면 간섭 무늬가 사라지고 결과가 바뀐다
- 측정의 강도가 약해도 간섭 무늬의 정밀도는 낮아진다
결어긋남 이론, 우주가 나를 끊임없이 관측한다
슈뢰딩거의 고양이가 남긴 질문은 오랫동안 풀리지 않았습니다. 그 실마리를 제공한 것이 결어긋남 이론(Decoherence Theory)입니다. 결어긋남이란 양자 시스템이 주변 환경과 상호작용하면서 중첩 상태가 깨지고 고전적인 결과만 남는 현상을 말합니다. 인간이 인지하지 않아도 공기 분자 하나와 충돌하는 것만으로 중첩은 붕괴합니다.
제 경험상 이 개념이 가장 와닿았던 이유는 따로 있습니다. 분석 업무를 하다 보면 아주 미세한 외부 요인 하나가 결과를 뒤집는 경우가 있습니다. 시스템이 닫혀 있다고 생각했는데 알고 보면 어딘가에서 간섭이 들어온 것입니다. 결어긋남 이론은 그 감각과 정확히 맞닿아 있었습니다.
최근에는 풀러렌(Fullerene, 탄소 원자 60개로 이루어진 분자)이나 생체 분자 같은 거대한 분자도 진공 상태에서 이중 슬릿을 통과시키면 간섭 무늬가 나타난다는 실험 결과들이 발표되고 있습니다(출처: Nature Physics). 하지만 공기 분자와 충돌하는 순간 무늬는 사라집니다. 이 실험들은 중첩이 가능한 조건의 경계를 탐색하는 과정으로, 양자 컴퓨터(Quantum Computer) 연구와도 직결됩니다. 양자 컴퓨터가 극저온 환경에서 작동하는 이유도 결어긋남을 막아 중첩 상태, 즉 결맞음(Coherence) 상태를 최대한 오래 유지하기 위해서입니다(출처: IBM Quantum).
인간이 중첩을 경험하지 못하는 이유도 같은 맥락입니다. 우리 주변의 우주가 쉬지 않고 우리를 관측하고 있기 때문입니다. 결어긋남 이론 덕분에 코펜하겐 해석이 더 정교해졌다고 보는 시각이 주류를 차지하지만, 다세계 해석이나 숨은 변수 이론처럼 완전히 다른 설명을 시도하는 흐름도 여전히 살아 있습니다. 양자역학과 일반 상대성 이론을 하나로 묶으려는 양자 중력(Quantum Gravity) 연구도 계속되고 있지만, 아직 구체적인 모습은 누구도 알 수 없습니다.
양자역학을 들여다볼수록 확실한 것은 하나입니다. 과학은 완성된 정답이 아니라 끊임없이 틀리고 수정하는 과정이라는 것입니다. 하이젠베르크와 슈뢰딩거가 서로 맞서며 결국 같은 답에 도달했듯, 지금도 어딘가에서 다음 세대의 논쟁이 시작되고 있을 것입니다. 양자역학이 낯설게 느껴진다면, 그 낯섦을 시작점으로 삼아도 충분합니다. 어렵다고 느끼는 그 감각 자체가 이미 우주의 본질에 한 발짝 다가선 것이니까요.
참고: 슈뢰딩거의 고양이🐈, 도대체 왜 유명할까? (feat. 김상욱 교수) [취미는 과학/ 64화 확장판] :
https://www.youtube.com/watch?v=jYfKlShYMrA&list=PLkKcqR2KGxgzqeKZo1Rx93kJFokuVkpye&index=29