암흑광자의 유혹 — 빛의 숨겨진 형제가 있다면

1986년 여름, 토론토대학교의 물리학과 대학원생 밥 홀덤(Bob Holdom)은 논문 한 편을 완성했습니다. 제목은 "두 U(1)과 그 운동학적 혼합(Two U(1)'s and ε Charge Shifts)"이었습니다. 불과 여섯 페이지짜리 이 논문은 당시 물리학계의 큰 주목을 받지 못했습니다. 그러나 30년이 흐른 지금, 이 논문은 암흑물질 연구의 가장 뜨거운 주제 중 하나인 '암흑광자(dark photon)' 이론의 씨앗으로 재평가받고 있습니다.

홀덤이 던진 질문은 단순했습니다: "만약 우주에 우리가 모르는 또 다른 U(1) 게이지 대칭이 있고, 그것이 표준 모형의 전자기력과 아주 미세하게 섞여있다면 어떨까?" 이 질문 하나가 오늘날 수십 개 실험과 수백 편의 이론 논문을 탄생시켰습니다.

빛의 숨겨진 형제라는 발상

우리가 아는 광자(photon)는 전자기력의 매개 입자입니다. 전하를 띤 입자들이 상호작용할 때, 그 사이에서 광자가 교환됩니다. 광자는 정지 질량이 없고, 빛의 속도로 이동하며, 전기적으로 중성입니다.

이제 상상해보십시오. 암흑물질이 단순한 입자 하나가 아니라, 자체적인 '암흑 섹터(dark sector)'를 이루고 있다면 어떨까요? 우리 우주에 전자기력이 있듯, 암흑 섹터에도 그것만의 전자기력이 있을 수 있습니다. 그리고 이 암흑 전자기력을 매개하는 입자가 바로 **암흑광자(dark photon, A')**입니다.

암흑광자는 우리 광자와 달리 질량을 가질 수 있습니다. 이것이 중요한 이유는, 질량이 있는 보손이 매개하는 힘은 더 짧은 거리에서만 작용하기 때문입니다. 유카와 포텐셜로 표현하면:

V(r) = −α_D × exp(−m_A' × r) / r

여기서:
  α_D  = 암흑 파인 구조 상수 (암흑 전자기 결합 강도)
  m_A' = 암흑광자 질량
  r    = 두 암흑물질 입자 사이의 거리

암흑광자의 질량 범위는 이론에 따라 수 eV부터 수 GeV까지 광범위하게 가능합니다. 이것이 탐색을 더 어렵고 동시에 더 풍부하게 만듭니다.

운동학적 혼합: 두 세계가 만나는 방식

암흑광자가 흥미로운 이유는 우리 세계와 암흑 세계가 완전히 격리되어 있지 않을 수 있기 때문입니다. 홀덤이 1986년에 제안한 메커니즘이 바로 **운동학적 혼합(kinetic mixing)**입니다.

양자장론에서는 동일한 스핀과 게이지 구조를 가진 두 벡터 장이 라그랑지안(Lagrangian) 내에서 자연스럽게 혼합될 수 있습니다. 표준 모형의 U(1)_Y 게이지 보손과 암흑 섹터의 U(1)_D 게이지 보손이 이런 관계에 있을 수 있습니다:

ℒ ⊃ −¼ F_μν F^μν − ¼ F'_μν F'^μν + (ε/2) F_μν F'^μν + ½ m²_A' A'_ν A'^μ

여기서:
  F_μν  = 표준 전자기장 텐서 (광자)
  F'_μν = 암흑광자 장 텐서
  ε     = 운동학적 혼합 파라미터 (kinetic mixing parameter)
  m_A'  = 암흑광자 질량

ε(엡실론)이 핵심입니다. 이 값이 얼마나 작은지에 따라 암흑광자가 우리 세계에 얼마나 영향을 미치는지가 결정됩니다. 이론적으로 ε는 양자 루프 레벨에서 자연스럽게 발생하며, 그 크기는 관여하는 새로운 무거운 입자에 따라:

ε ~ (e × g_D) / (16π²) × ln(Λ_UV / Λ_IR)

전형적인 값의 범위:
  - 대통일이론(GUT) 구도: ε ~ 10⁻⁴ ~ 10⁻²
  - 끈이론적 접근:         ε ~ 10⁻¹² ~ 10⁻³

이 작은 수 ε이 바로 두 세계를 잇는 다리입니다. ε가 0이면 두 섹터는 완전히 분리되어 있고, ε가 충분히 크면 실험에서 탐지 가능한 신호를 만들어냅니다.

암흑광자는 어떻게 행동하는가?

운동학적 혼합을 통해, 암흑광자는 표준 모형 입자와 아주 약하게 결합합니다. 실질적으로 암흑광자는 '질량을 가진 미니 광자'처럼 행동하며, 전하를 띤 표준 모형 입자들과 ε 만큼 약화된 강도로 상호작용합니다.

광자-암흑광자 진동(Oscillation): 진공 중에서 광자가 암흑광자로, 또는 그 반대로 변환될 수 있습니다. 중성미자 진동과 유사한 현상입니다:

P(γ → A') = ε² × sin²(m²_A' × L / 4E)

여기서:
  L = 이동 거리
  E = 광자 에너지

암흑광자를 통한 암흑물질-표준모형 상호작용: 암흑물질 입자(χ)가 암흑전하(dark charge)를 가진다면, 암흑광자를 통해 전자 또는 핵과 상호작용할 수 있습니다:

χ + e⁻ → χ + e⁻ [암흑광자 A' 교환]

유효 결합 상수: g_eff = ε × e × g_D / (q² − m²_A')

이 상호작용은 직접탐색 암흑물질 실험(XENONnT, LZ 등)에서 신호를 만들 수 있습니다.

실험적 탐색: 전 세계의 가속기들이 벌이는 수색전

암흑광자 탐색은 LHC 같은 거대 충돌기부터 소형 고정 타깃 실험까지 광범위한 실험에서 이루어집니다. 탐색 전략은 암흑광자의 질량 범위와 붕괴 방식에 따라 달라집니다.

가시적 붕괴 (Visible Decay): A' → e⁺e⁻, μ⁺μ⁻

암흑광자가 충분히 무겁다면 표준 모형 입자 쌍으로 붕괴합니다. 이 경우 불변질량 분포에서 날카로운 피크로 탐지합니다:

실험	방법	탐색 질량 범위	배제 ε²
BaBar (SLAC)	e⁺e⁻ 충돌, A' → l⁺l⁻	20 MeV ~ 10.2 GeV	~10⁻⁸ ~ 10⁻⁵
NA48/2 (CERN)	양성자 고정타깃, π⁰ → γA'	9 ~ 70 MeV	~10⁻⁸
LHCb (CERN)	pp 충돌, A' → μ⁺μ⁻	214 ~ 350 MeV	~10⁻⁷
Belle II (KEK)	e⁺e⁻, 넓은 범위	1 MeV ~ 8 GeV	진행 중

비가시적 붕괴 (Invisible Decay): A' → χχ̄

암흑광자가 암흑물질 쌍으로 붕괴하면 검출기에서 사라집니다. 이 경우 '미싱 에너지' 방식으로 탐색합니다:

CERN의 NA64 실험이 이 방식을 사용합니다. 100 GeV 전자를 납 표적에 충돌시켜 암흑광자를 생성하고, 이것이 암흑물질로 붕괴하는 신호를 탐색합니다:

e⁻ + Z → e⁻ + Z + A'*  [암흑광자 제동복사]
A' → χχ̄  [비가시적 붕괴]

신호: 빔 에너지의 상당 부분이 사라짐

2023년 NA64 결과는 m_A' = 1 MeV ~ 1 GeV 범위에서 ε > 2×10⁻⁴를 배제했습니다.

빛을 벽 너머로: LSW 실험

암흑광자를 찾는 또 다른 창의적인 방법이 있습니다. "벽을 통과하는 빛(Light Shining Through a Wall, LSW)" 실험입니다.

상상해보십시오. 강력한 레이저 광선을 두꺼운 금속 벽을 향해 쏩니다. 일반 빛은 벽을 통과하지 못합니다. 그러나 만약 광자가 벽 앞에서 확률 ε²으로 암흑광자로 변환된다면, 암흑광자는 벽을 '유령처럼' 통과합니다. 벽 너머에서 그것이 다시 광자로 재변환될 확률도 ε²입니다. 이 재변환된 광자를 고감도 검출기로 탐지하면 암흑광자의 존재를 알 수 있습니다.

독일 함부르크 DESY 연구소의 ALPS II(Any Light Particle Search II) 실험이 2022년부터 이 방식으로 가동되고 있습니다. ALPS II는 12쌍의 초전도 이중극자 자석(각 8.8 T)을 사용하며, 빛의 공명 증폭을 위한 파브리-페로 공진기(Fabry-Pérot cavity)를 양측에 배치합니다.

ALPS II 실험 사양:
  - 자기장: B = 8.8 T, 길이 L = 106 m (양측 각)
  - 레이저 출력: ~150 W (공진기 내 ~1 MW)
  - 탐색 범위: m_A' ≲ 0.1 meV (초경량 암흑광자)
  - 민감도 목표: ε > 2×10⁻¹² 배제 가능

우주론적 제약: 우주 자체가 최대의 탐색기다

실험실만이 암흑광자를 제약하는 것은 아닙니다. 우주 자체의 역사가 암흑광자에 강력한 제약을 부과합니다.

우주 마이크로파 배경(CMB) 스펙트럼: 플랑크 위성이 측정한 CMB 스펙트럼은 0.01% 수준의 정밀도를 가집니다. 암흑광자가 빅뱅 이후 광자-암흑광자 진동을 통해 CMB 스펙트럼을 왜곡한다면, 이 정밀한 측정값과 어긋나게 됩니다. 이로부터:

CMB 제약:
  ε < 3×10⁻⁷  (m_A' ~ 10⁻¹⁴ eV 부근)
  ε < 10⁻⁶    (m_A' ~ 10⁻¹² eV 부근)

별의 냉각(Stellar Cooling): 별 내부에서 광자가 암흑광자로 변환되어 탈출한다면 별은 더 빨리 냉각됩니다. 수평 분지별(horizontal branch stars)과 적색 거성(red giants)의 관측된 냉각 속도는 이 과잉 에너지 손실에 강한 제약을 줍니다:

별 냉각 제약 (수평 분지별):
  ε < 2×10⁻¹⁴  for  m_A' ≲ 10 keV
  ε < 3×10⁻¹²  for  m_A' ≈ 100 keV

빅뱅 핵합성(BBN): 암흑광자가 BBN 시기(빅뱅 후 수 분)에 충분히 생성되었다면, 수소와 헬륨-4의 비율에 영향을 줄 수 있습니다. 관측된 경원소 비율과의 비교는 ε과 m_A'의 조합에 제약을 가합니다.

암흑물질과의 연결: 자기 상호작용 암흑물질

암흑광자가 존재하고 암흑물질 입자가 암흑 전하를 가진다면, 이 둘은 강력하게 연결됩니다. 특히 암흑물질이 암흑광자를 통해 자기 자신과 상호작용하는 자기 상호작용 암흑물질(Self-Interacting Dark Matter, SIDM) 모형은 관측 천문학의 오래된 수수께끼를 해결하는 데 도움이 됩니다.

현재 표준 ΛCDM 모형이 예측하는 왜소 은하의 중심부 밀도 프로파일은 NFW 프로파일처럼 중심부가 뾰족(cusp)합니다. 그러나 관측에서는 중심부가 완만한(core) 밀도 프로파일이 발견됩니다. 이것을 '코어-쿠스프 문제(core-cusp problem)'라고 합니다.

NFW 프로파일 (표준 ΛCDM 예측):
  ρ(r) ∝ 1 / [r × (1 + r/r_s)²]  → 중심부 발산

SIDM 예측 (암흑광자 매개):
  σ_DM-DM / m_χ ~ 0.1 ~ 10 cm²/g
  → 중심부 밀도 완만화 → 관측과 일치

암흑 복사: 또 하나의 흔적

암흑광자는 질량이 매우 작을 경우 '암흑 복사(dark radiation)'로 작용할 수 있습니다. 이것은 우주 초기의 유효 중성미자 수 N_eff에 기여하여, 플랑크 위성의 CMB 측정에서 탐지될 수 있습니다. 2018년 플랑크 결과는 N_eff = 2.99 ± 0.17을 측정했으며, 이는 표준 모형 예측(N_eff = 3.044)과 약 1σ 수준에서 일치합니다.

미래의 CMB-S4 실험은 N_eff를 0.06 정밀도로 측정할 예정입니다. 이것은 암흑 복사에 전례 없는 민감도를 제공할 것입니다.

앞으로의 전망

암흑광자 탐색은 2020년대 후반에 중요한 분기점을 맞이할 것입니다. Belle II 실험은 2030년까지 50 ab⁻¹의 데이터를 수집하여 1 MeV ~ 8 GeV 범위의 암흑광자를 전례 없는 민감도로 탐색할 것입니다. LHCb의 업그레이드 역시 수백 MeV 범위에서 새로운 경계를 그을 것입니다.

밥 홀덤이 1986년에 그린 청사진은 단순한 수식 몇 줄에 불과했습니다. 그러나 그 수식은 두 개의 보이지 않는 세계가 아주 얇은 실로 연결되어 있을지도 모른다는 가능성을 담고 있었습니다. 그 실이 존재하는지 여부를, 우리는 지금 이 순간에도 전 세계 수십 개 실험실에서 쉬지 않고 확인하고 있습니다.