스마트폰을 매일 손에 쥐면서도 그 안에 어떤 물리학이 숨어 있는지 생각해 본 적 있으십니까? 양자역학이라는 단어를 들으면 대부분 "나랑은 상관없는 이야기"라고 넘겨버리는데, 사실 반도체, 레이저, LED 디스플레이까지 현대 전자문명의 기반이 모두 여기서 출발합니다. 올해가 바로 양자역학 탄생 100주년입니다. 저도 이 사실을 최근에야 처음 알았습니다.
양자역학 탄생 배경: 선 스펙트럼이 던진 질문
양자역학이 왜 필요했는지를 이해하려면, 20세기 초 물리학자들이 어떤 벽에 부딪혔는지부터 봐야 합니다. 당시 최고의 이론은 뉴턴 역학과 전자기학이었는데, 이 두 이론으로는 원자를 설명하는 게 불가능했습니다.
가장 대표적인 난제가 선 스펙트럼(line spectrum)이었습니다. 여기서 선 스펙트럼이란, 원자에 열을 가했을 때 나오는 빛을 프리즘으로 분리했을 때 무지개처럼 연속적으로 펼쳐지는 것이 아니라 특정 색깔의 선 몇 개만 띄엄띄엄 나타나는 현상을 말합니다. 마치 빛의 바코드처럼, 원소마다 고유한 패턴을 가지고 있습니다. 화학자들은 이걸 원소 식별 도구로 편하게 쓰고 있었지만, 물리학자들은 "왜 선인가?"라는 질문에 답을 내놓지 못하고 있었습니다.
이 불연속성을 먼저 이론화한 인물이 닐스 보어입니다. 보어는 전자가 원자핵 주위를 돌 수 있는 궤도가 띄엄띄엄하다고 가정했습니다. 10km 높이에선 돌 수 있고, 20km에서도 돌 수 있지만, 그 사이인 13km에서는 존재할 수 없다는 식입니다. 전자가 낮은 궤도에서 높은 궤도로 이동할 때는 빛 에너지를 흡수하고, 내려올 때는 방출합니다. 이때 나오는 빛이 바로 선 스펙트럼의 각 선입니다.
저는 이 설명을 처음 들었을 때 "그러면 이동하는 중간 과정은 어떻게 되는 거지?"라는 의문이 바로 들었습니다. 정답은 중간 과정이 없다는 것, 즉 전자가 한 궤도에서 사라졌다가 다른 궤도에서 갑자기 나타난다는 겁니다. 이것을 양자 도약(quantum jump)이라고 합니다. 이 개념은 물리학적으로 대단히 불편하지만, 보어의 수학적 계산값이 실험 결과와 정확히 일치했기 때문에 과학계가 일단 받아들일 수밖에 없었습니다.
보어 이론이 설명한 핵심 포인트를 정리하면 다음과 같습니다.
- 전자의 궤도는 연속적이지 않고 특정 값만 허용된다
- 전자가 궤도 사이를 이동할 때 중간 위치는 존재하지 않는다
- 이동 시 에너지 차이만큼 빛을 흡수하거나 방출한다
- 이 방출 빛의 파장이 선 스펙트럼을 만들어낸다
그러나 보어의 이론은 수소 원자 하나에만 맞아떨어졌습니다. 헬륨만 가도 계산이 틀어졌고, 이론의 토대 자체가 불완전하다는 것이 점점 명확해졌습니다.
행렬역학: 24살 하이젠베르크가 뒤집은 물리학
베르너 하이젠베르크는 1901년생입니다. 그가 행렬역학(matrix mechanics) 논문을 발표한 건 고작 스물셋, 많아야 스물넷의 나이였습니다. 여기서 행렬역학이란, 전자의 위치나 궤도처럼 직접 관측할 수 없는 개념을 이론에서 완전히 배제하고, 오직 실험으로 측정 가능한 물리량, 즉 원자가 방출하는 빛의 에너지와 세기만을 기반으로 구성한 양자역학 체계를 말합니다.
하이젠베르크의 출발점은 단순하지만 급진적이었습니다. "우리는 전자를 본 적이 없다. 앞으로도 볼 수 없을 것 같다. 그런데 왜 이론에서는 자꾸 전자의 궤도와 위치를 이야기하는가?" 그가 1925년 논문의 초록에 단 한 줄로 담은 핵심은 이것입니다. 원칙적으로 측정 가능한 물리량에만 근거하여 이론을 세워야 한다는 것.
저는 이 발상이 진짜 대담하다고 느꼈습니다. 보어의 이론이 틀렸다고 선언하는 것이 아니라, 보어의 이론에서 검증된 부분, 즉 양자 도약이라는 불연속적 에너지 전이만 살리고, 궤도라는 미검증 개념은 통째로 버린 겁니다.
하이젠베르크가 구성한 수학적 구조는 이렇습니다. 에너지 상태가 5개 있다면, 1번 상태에서 3번 상태로의 전이, 3번에서 2번으로의 전이 등 가능한 모든 전이 쌍을 나열합니다. 이 두 숫자 쌍으로 이루어진 2차원 배열이 바로 행렬(matrix)입니다. 행렬이란 행과 열로 이루어진 숫자 표인데, 이 표가 곧 원자를 수학적으로 표현한 것이라는 게 하이젠베르크의 주장이었습니다. 이 행렬을 수학적으로 처리, 즉 대각화(diagonalization)하면 실제 에너지 값이 나오고, 그 에너지 차가 바로 선 스펙트럼의 위치를 정확히 예측합니다.
흥미로운 점은, 하이젠베르크 본인은 자신이 만든 수학 구조가 행렬이라는 사실을 당시 몰랐다는 겁니다. 논문을 본 지도 교수 막스 보른이 "이건 수학에서 이미 알려진 행렬 연산이야"라고 알려줬고, 둘이 함께 이론을 다듬어서 완성한 버전이 오늘날 물리학과 양자역학 교과서의 핵심 챕터가 됩니다(출처: 독일 물리학회 DPG).
하이젠베르크가 이 이론을 만들 수 있었던 배경에는 닐스 보어와의 만남이 있었습니다. 1922년 괴팅겐 대학 강연에서 하이젠베르크는 스물한 살의 나이로 보어의 논문을 완전히 소화한 뒤 날카로운 질문들을 쏟아냈고, 보어가 직접 산책을 제안하며 코펜하겐으로 초대한 것이 결정적 계기였습니다. 저는 이 장면이 인상적이었습니다. 학문의 최정상에 있는 사람이 젊은 학생의 비판을 불쾌해하지 않고 오히려 끌어당겼다는 것, 과학의 발전 방식이 그런 것이라는 게 느껴졌습니다.
불확정성 원리: 경쟁이 낳은 양자역학의 철학
행렬역학이 완성된 지 불과 몇 달 뒤인 1926년 초, 에르빈 슈뢰딩거가 완전히 다른 접근법으로 같은 답을 내놓는 파동방정식(wave equation)을 발표합니다. 여기서 파동방정식이란 전자를 입자로 보지 않고 파동으로 가정하여, 전자의 상태를 연속적인 미분방정식 형태로 기술한 이론을 말합니다. 행렬보다 미분 방정식이 훨씬 친숙한 물리학자들 사이에서 슈뢰딩거의 이론은 빠르게 대세가 됐습니다. 심지어 아인슈타인도 슈뢰딩거 편이었습니다.
두 이론은 철학이 완전히 달랐습니다. 하이젠베르크는 궤도와 위치 자체를 물리학에서 지워야 한다고 했고, 슈뢰딩거는 전자가 파동처럼 연속적으로 흐른다고 봤습니다. 그런데 계산 결과는 똑같았습니다. 이 2년간의 혼란은 물리학계 전체를 뒤흔들었습니다.
그 혼란 속에서 하이젠베르크는 아인슈타인을 직접 찾아갑니다. 아인슈타인은 "전자의 궤도를 지금 못 본다고 해서 궤도가 없는 건 아니다"라고 반박했습니다. 보통이라면 이 말에 설득당하거나 물러섰을 텐데, 하이젠베르크는 오히려 이 대화에서 자신의 이론을 완성할 핵심 고리를 발견합니다. 바로 불확정성 원리(uncertainty principle)입니다. 여기서 불확정성 원리란 전자의 위치와 운동량을 동시에 정확하게 측정하는 것이 원리적으로 불가능하다는 법칙으로, 이는 측정 기술의 한계가 아니라 자연 자체의 근본적인 성질입니다.
이것이 중요한 이유는, 단순히 "잘 못 보인다"는 이야기가 아니라 "위치를 정확히 알면 알수록 운동량은 원리적으로 알 수 없게 된다"는 뜻이기 때문입니다. 측정 행위 자체가 대상에 영향을 준다는 이 개념은 고전 물리학의 세계관과 근본적으로 충돌합니다. 양자역학이 단순히 어려운 계산법이 아니라 자연을 바라보는 시각 자체를 바꿔버린 이유가 여기 있습니다.
현재 반도체 소자의 설계와 레이저 기술은 이 불확정성 원리와 파동함수 개념 없이는 설명이 불가능합니다. 양자역학이 현대 기술 문명의 기반이라는 말이 과장이 아닌 이유입니다. 실제로 현대 반도체 소자에 적용되는 터널링 효과(tunneling effect) 역시 양자역학 없이는 존재조차 설명할 수 없는 현상입니다(출처: 미국 물리학회 APS).
솔직히 말하면, 저는 이 내용을 처음 접하면서 행렬이니 파동함수니 하는 부분에서 몇 번 멈췄습니다. 100% 다 이해했다고는 못하겠습니다. 그런데 파인만이 "양자역학을 이해한 사람은 한 명도 없다"고 했다는 말이 꽤 진지한 위안이 됐습니다.
결국 양자역학의 100년 역사는 "보이지 않는 것을 어떻게 기술하는가"에 대한 인류의 가장 치열한 논쟁이었습니다. 하이젠베르크가 24살에 던진 질문, 측정할 수 없는 것을 이론에서 빼자는 그 단순한 원칙이 지금 우리 손 안의 스마트폰을 만든 출발점이었습니다. 양자역학이 어렵게 느껴진다면, 그 불편함 자체가 사실은 제대로 된 반응일 수 있습니다. 다음 단계가 궁금하신 분께는 슈뢰딩거 편을 이어서 보시길 권합니다. 두 이론이 어떻게 하나로 합쳐지는지가 이야기의 진짜 결말입니다.
참고: 양자역학 탄생 100주년, 혁명은 이렇게 시작됐다 (feat. 김상욱 교수) [취미는 과학/ 62화 확장판] :
https://www.youtube.com/watch?v=rKTpAeYJjJE&list=PLkKcqR2KGxgzqeKZo1Rx93kJFokuVkpye&index=30