전자의 위치와 속도를 동시에 정확하게 알 수 없다는 사실이 물리학의 법칙으로 확립된 지 올해로 꼭 100년이 됩니다. 처음 이 개념을 접했을 때 솔직히 말하면 황당했습니다. 측정 기술이 부족해서 모른다는 게 아니라 우주 자체가 그렇게 작동한다는 뜻이니까요. 그 황당함이 오히려 이 주제를 계속 파고들게 만들었습니다.
불확정성 원리, 그 탄생의 맥락
양자역학 탄생 100주년을 기점으로 다시 이 역사를 들여다봤을 때, 저는 하이젠베르크가 행렬역학(matrix mechanics)을 내놓은 과정 자체가 이미 대단하다고 생각했습니다. 행렬역학이란 원자가 방출하는 빛의 에너지 같이 실제로 측정 가능한 물리량만을 기반으로 원자의 거동을 기술하는 이론 체계입니다. 쉽게 말해 눈에 보이지 않는 전자의 궤도 같은 것은 처음부터 이론에 포함시키지 않겠다는 선언이었습니다.
문제는 아인슈타인이었습니다. "보이지 않는다고 해서 없는 건 아니다"라는 그의 반박은 단순한 철학적 주장이 아니었습니다. 물리학자라면 지금 당장 볼 수 없더라도 언젠가 확인할 수 있는 물리량을 가정하는 방식으로 일한다는, 방법론적 근거를 들이민 것이었습니다. 하이젠베르크는 이 지적에서 자기 이론의 약점을 정확히 포착했습니다.
그 직후 안개 상자(cloud chamber) 실험이 상황을 더 복잡하게 만들었습니다. 안개 상자란 과포화된 수증기나 알코올로 채워진 장치로, 하전 입자가 지나갈 때 그 경로를 따라 물방울이 맺혀 궤적이 눈에 보이게 되는 장치입니다. 전자를 쏘았더니 선명한 선이 남았고, 사람들은 "전자의 궤도가 보이잖아"라고 외쳤습니다. 하이젠베르크 입장에서는 사면초가였습니다.
하지만 그는 포기하지 않고 이 안개 상자 궤적이 정확히 무엇인지를 파고들었습니다. 결론은 이렇습니다. 전자를 보려면 반드시 빛을 이용해야 하는데, 빛도 광자(photon), 즉 에너지를 가진 입자입니다. 광자란 빛을 구성하는 에너지 덩어리로 질량이 없지만 운동량은 가지고 있습니다. 전자처럼 극히 작은 대상에 광자가 부딪히는 순간, 전자는 충격을 받아 원래 위치와 속도를 잃어버립니다. 다시 말해, 보는 행위 자체가 대상을 교란시킨다는 것입니다.
여기서 불확정성 원리(uncertainty principle)가 도출됩니다. 불확정성 원리란 입자의 위치와 운동량(질량×속도)을 동시에 임의로 정밀하게 측정하는 것이 원칙적으로 불가능하다는 법칙입니다. 기술의 한계가 아니라 자연의 구조 자체가 그렇다는 점이 핵심입니다. 이것이 왜 중요하냐면, 뉴턴 역학은 초기 조건인 위치와 속도 두 가지를 알아야 물체의 미래를 계산할 수 있기 때문입니다. 이 두 가지를 동시에 알 수 없다면 미래를 결정할 수 없고, 우주는 근본적으로 확률적으로 작동한다는 결론이 나옵니다.
직장에서 품질 이상을 분석할 때도 비슷한 상황을 자주 겪습니다. 처음 세운 가설이 데이터와 어긋날 때 그 가설을 버리지 않고 데이터를 맞추려는 유혹이 생깁니다. 하이젠베르크가 아인슈타인의 반박에서 도망치지 않고 오히려 자기 이론의 빈틈을 보완한 것처럼, 현장에서도 불편한 데이터를 정면으로 마주하는 것이 결국 더 단단한 해답으로 이어졌습니다.
불확정성 원리의 수학적 구조를 이해하는 핵심 포인트를 정리하면 다음과 같습니다.
- 위치의 불확실성과 운동량의 불확실성을 곱하면 항상 플랑크 상수(ℏ)의 절반 이상이다
- 위치를 더 정밀하게 알수록 운동량은 더 불확실해지고, 반대도 마찬가지다
- 이 관계는 행렬역학에서 위치와 운동량이 행렬로 표현될 때 곱의 순서를 바꾸면 결과가 달라진다는 수학적 성질에서 자연스럽게 도출된다
파동함수와 확률해석, 슈뢰딩거가 남긴 딜레마
하이젠베르크가 불확정성 원리를 정립하던 시기, 슈뢰딩거는 완전히 다른 방향에서 양자역학을 공략했습니다. 드브로이(de Broglie)가 빛이 입자성을 가지듯 전자 같은 입자도 파동성을 가질 수 있다고 제안한 것에서 출발해, 슈뢰딩거는 전자의 파동을 기술하는 방정식을 만들었습니다. 바로 슈뢰딩거 방정식(Schrödinger equation)입니다. 이 방정식의 핵심에는 파동함수(wave function, Ψ)라는 개념이 등장합니다. 파동함수란 양자 시스템의 상태를 수학적으로 기술하는 함수로, 이를 통해 입자가 특정 위치에 존재할 확률을 계산할 수 있습니다.
제가 처음 파동함수라는 단어를 들었을 때는 그냥 파동처럼 출렁이는 뭔가가 있는 건가 싶었는데, 실제로는 그게 아닙니다. 파동함수가 나타내는 것은 확률 분포입니다. 전자가 어디에 있을지 100%로 결정된 위치가 아니라, 어디에 있을 가능성이 얼마나 되는지를 알려주는 정보입니다.
여기서 문제가 생깁니다. 파동함수는 공간 전체에 퍼져 있는데, 실제로 전자를 측정하면 특정 한 곳에서 발견됩니다. 퍼져 있던 확률 분포가 측정 순간 하나의 결과로 수렴하는 이 현상을 파동함수 붕괴(wave function collapse)라고 합니다. 파동함수 붕괴란 중첩된 여러 가능성이 측정 행위를 통해 하나의 확정된 결과로 귀결되는 과정입니다. 슈뢰딩거 본인도 이 해석을 받아들이기 힘들어했습니다. 자신이 불연속적인 도약을 제거하려고 만든 이론이, 결국 확률적 붕괴라는 불연속성을 품게 됐으니까요.
중첩(superposition) 개념도 여기서 함께 이해해야 합니다. 중첩이란 양자 시스템이 측정되기 전까지 여러 상태를 동시에 가질 수 있는 성질입니다. 슈뢰딩거의 고양이 사고 실험은 바로 이 중첩을 거시 세계로 확장했을 때 생기는 모순을 드러내기 위해 고안된 것입니다. 상자 안의 고양이는 방사성 원자의 붕괴 여부에 따라 살거나 죽는데, 관측하기 전까지 원자는 붕괴와 비붕괴 상태가 중첩돼 있습니다. 그렇다면 고양이도 살아 있는 동시에 죽어 있어야 한다는 결론이 나오는데, 슈뢰딩거는 이것이 말이 안 된다는 걸 보여주기 위해 이 역설을 만든 것입니다.
양자역학이 실험 결과와 얼마나 정밀하게 일치하는지는 수치로도 확인됩니다. 전자의 자기 모멘트를 예측하는 양자전기역학(QED)의 계산값과 실험값은 소수점 이하 12자리까지 일치한다고 알려져 있습니다(출처: 미국 물리학회(APS)). 이 정도 정밀도면 이론이 맞고 틀리고를 논하는 단계가 이미 지났습니다. 많은 물리학자들이 양자역학의 해석에 여전히 불편함을 느끼면서도 결국 받아들이게 된 이유가 여기에 있습니다.
양자역학의 응용 범위 역시 이론의 신뢰도를 뒷받침합니다. 반도체, MRI, 레이저, 광섬유 통신이 모두 양자역학 없이는 설계될 수 없습니다. 한국과학기술정보연구원에 따르면 현재 전 세계 GDP의 35% 이상이 양자역학 기반 기술에서 나온다고 추산됩니다(출처: 한국과학기술정보연구원(KISTI)). 저는 이 수치를 처음 봤을 때 정말 예상 밖이었습니다. 100년 전 과학자들이 전자의 궤도를 두고 싸우던 그 논쟁이, 지금 우리가 쓰는 스마트폰과 반도체 속에 그대로 구현돼 있다는 게 실감 나지 않았습니다.
불확정성이라는 개념이 처음엔 "알 수 없다는 걸 법칙이라고 부르는 건가"라는 의구심을 줬지만, 파고들수록 다르게 보입니다. 이것은 인간 인식의 한계가 아니라 우주가 작동하는 방식 자체입니다. 물리학자들은 100년 전에 이미 "우리는 세상 모든 것을 결정론적으로 알 수 없다"는 사실을 인정했고, 그 위에 현대 문명의 기술 기반을 쌓았습니다. 다음에 반도체나 레이저 관련 기술 뉴스를 접할 때, 그 안에 하이젠베르크와 슈뢰딩거의 논쟁이 녹아 있다는 걸 한 번쯤 떠올려 보시면 이 주제가 훨씬 가깝게 느껴질 것입니다.
참고: 양자역학의 운명을 건 싸움, 두 세계는 어떻게 충돌했나? (feat. 김상욱 교수) [취미는 과학/ 63화 확장판] :
https://www.youtube.com/watch?v=vx9sj4l4meE&list=PLkKcqR2KGxgzqeKZo1Rx93kJFokuVkpye&index=31