암호학의 기초, 시저 암호부터 양자 암호까지

 

암호학은 시저 암호 같은 고대 기법부터 양자 암호까지 긴 역사를 자랑합니다. 본 글에서는 고전적 암호부터 대칭키·비대칭키 알고리즘, 그리고 미래의 양자 암호 기술까지, 초보자도 이해하기 쉽게 개념과 사례를 정리합니다.

 

1. 암호학의 중요성

오늘날 데이터가 폭발적으로 증가하고, 디지털 트랜스포메이션(디지털화)이 가속화되면서 ‘보안’은 더 이상 선택이 아닌 필수가 되었습니다.

해킹, 정보 유출, 랜섬웨어 등 각종 사이버 위협이 심화되는 가운데, 암호학(Cryptography)은 데이터를 보호하기 위한 가장 근본적이면서도 강력한 도구로 주목받습니다.

온라인 뱅킹, 모바일 결제, 가상사설망(VPN), 전자서명 등 모든 분야에서 활용되는 암호 기술은, 우리 일상을 보이지 않게 뒷받침하며 안전한 디지털 생활을 가능케 합니다.

 

이 글에서는 암호학의 역사적 배경부터 기초 이론, 현대 암호 알고리즘, 그리고 양자 암호에 이르는 발전 과정을 폭넓게 다룰 것입니다. 특히, 초보자도 이해할 수 있도록 개념을 쉽게 풀어쓰고, 필요한 곳에 간단한 예시를 제시하여 실용적인 시각도 제공하고자 합니다.

---

2. 암호학이란 무엇인가?

① 암호학(Cryptography)의 정의

• 암호학은 메시지(데이터)를 안전하게 보호하기 위한 기술과 이론을 연구하는 학문 분야입니다.
• 단순히 ‘문자열을 복잡하게 바꾸는 기법’이 아니라, 기밀성(Confidentiality), 무결성(Integrity), 인증(Authentication), 부인방지(Non-repudiation) 등 다양한 보안 목표를 달성하기 위한 수학·컴퓨터 과학·정보 이론의 융합입니다.

② 암호학이 제공하는 4대 보안 목표

1. 기밀성 : 정보가 허가되지 않은 자에게 노출되지 않도록 보호
2. 무결성 : 정보가 변조되지 않도록 보호
3. 인증 : 정보의 출처가 정확함을 보장
4. 부인방지 : 나중에 메시지를 보냈다고 발뺌하지 못하도록 증거 확보

오늘날 우리가 사용하는 인터넷 뱅킹, 전자상거래, 전자문서 결재 등의 거의 모든 온라인 서비스에는 이러한 보안 목표를 충족하기 위한 암호학 기술이 녹아 있습니다.

---

3. 고전적 암호 : 시저 암호에서 비밀 로터 기계까지

① 시저 암호(Caesar Cipher)

가장 유명한 고전적 암호 기법은 바로 시저 암호입니다. 로마 시대에 율리우스 시저가 군사적 기밀을 전할 때 사용했다고 알려져 있습니다.

1) 동작 방식

• 시프트(Shift) : 알파벳을 일정 개수만큼 밀어서 다른 알파벳으로 치환
• 예를 들어, 시프트 값이 3이라면, ‘A’를 ‘D’, ‘B’를 ‘E’, ‘C’를 ‘F’ 등으로 암호화

평문(Plaintext)	A	B	C	D	E	...	X	Y	Z
암호문(Ciphertext)	D	E	F	G	H	...	A	B	C

• 이를 복호화(Decrypt)하려면 반대로 3만큼 당기면 됩니다.

2) 한계점

• 알파벳 시프트라는 단순 규칙 때문에, 빈도분석(Frequency Analysis)을 조금만 해도 쉽게 풀립니다.
• 현대 암호학에서는 치환 수준으로는 보안을 보장할 수 없습니다. 다만 암호학의 입문 예시로서 의미가 큽니다.

② 치환 암호와 전치 암호

시저 암호와 비슷한 원리로, 알파벳을 특정 규칙에 따라 서로 바꾸는 치환(Substitution) 기법과 문자의 순서를 뒤바꾸는 전치(Transposition) 기법이 존재합니다.

• 치환 암호 : 알파벳 ‘A’를 ‘M’으로, ‘B’를 ‘Z’로 치환하는 식
• 전치 암호 : “HELLO” → “LEHOL” 처럼 문자의 순서를 교환

이 두 기법을 결합해 복잡성을 높인 방식이 클래식 암호에서 자주 등장했습니다. 하지만 현대 컴퓨터의 강력한 연산 능력으로 쉽게 해독이 가능합니다.

③ 에니그마(Enigma)와 2차 세계대전

고전 암호의 정점이라 할 수 있는 사례로, 독일군이 사용했던 에니그마(Enigma) 기계가 유명합니다. 로터(rotor)를 이용해 알파벳을 반복적으로 치환하고, 매번 다른 키 설정을 사용함으로써 대단히 복잡한 치환을 만들어냈습니다.

• Bletchley Park(블레츨리 파크)에서 앨런 튜링(Alan Turing)을 비롯한 암호분석가들의 노력으로 결국 해독에 성공
• 2차 세계대전 종전 시기를 앞당긴 혁혁한 공로로 평가

이처럼 암호와 해독의 경쟁 구도는 인류 역사에서 전쟁의 승패까지 좌우할 정도로 중요한 위치를 차지해왔습니다.

---

4. 현대 암호 : 대칭키와 비대칭키의 양대 산맥

고전 암호가 단순 치환/전치에 그쳤다면, 현대 암호학은 복잡한 수학 이론과 컴퓨팅 기술을 결합하여 매우 강력하고 정교한 암호화 방식을 개발했습니다. 그중에서도 크게 두 가지 축이 있습니다.

1. 대칭키 암호(Symmetric-Key Cryptography)
2. 비대칭키 암호(Asymmetric-Key Cryptography)

① 대칭키 암호(Symmetric Key)

1) 개념

• 하나의 키(비밀키)를 암호화와 복호화 양쪽에 공용으로 사용
• 예: AES, DES, 3DES, Blowfish, SEED(한국형 알고리즘) 등

2) 장점과 단점

1. 장점
   • 비교적 연산 속도가 빠름
   • 구현이 단순
2. 단점
   • 키를 사전에 안전하게 공유해야 함
   • 키가 유출되면, 그 키로 암호화된 모든 내용을 볼 수 있음

3) 대표 알고리즘 : AES

AES(Advanced Encryption Standard)는 미국 NIST에서 공인한 표준 대칭키 블록 암호입니다.

• 128, 192, 256비트 키 길이를 지원
• 전 세계적으로 가장 널리 쓰이는 대칭키 암호 알고리즘

 

② 비대칭키 암호(Asymmetric Key)

1) 개념

• 공개키(Public Key)와 개인키(Private Key) 두 개의 키를 사용
• 암호화에 쓰이는 공개키는 누구나 알 수 있지만, 복호화에는 오직 개인키가 필요

2) 대표 알고리즘 : RSA, ECC

1. RSA
   • 1977년 Rivest, Shamir, Adleman이 개발한 알고리즘
   • 큰 소수의 곱에 대한 인수분해가 어려운 수학적 특성을 이용
2. ECC(타원 곡선 암호)
   • Elliptic Curve Cryptography
   • RSA보다 짧은 키 길이로 동일한 보안 강도 제공, 모바일 환경에 유리

3) 장점과 단점

1. 장점
   • 키 배포가 간편 (공개키는 인터넷에 공개해도 됨)
   • 전자서명, 키 교환 등 다양한 활용
2. 단점:
   • 대칭키 암호에 비해 연산 속도가 느림
   • 긴 키 길이가 필요할 수 있음 (RSA-2048, RSA-4096 등)

4) 활용 예 : 하이브리드 암호

실제로는 대칭키와 비대칭키를 함께 사용하는 경우가 많습니다.

1. 공개키 암호로 안전하게 세션 키(대칭키)를 교환
2. 본격적인 데이터 전송은 대칭키(AES 등)로 빠르게 암호화

이를 하이브리드 암호라고 하며, SSL/TLS(HTTPS) 같은 프로토콜에서 일반적으로 사용되는 방식입니다.

---

5. 암호학의 확장 기능 : 해시, 메시지 인증코드(MAC), 전자서명

암호화 외에도, 무결성이나 인증을 달성하기 위해 다양한 암호학 기법이 존재합니다.

① 해시 함수(Hash Function)

• 입력 데이터(메시지)를 받아서 고정 길이의 해시값(다이제스트, Digest)을 출력
• 대표 예 : SHA-256, SHA-3, MD5(보안적으로 취약점이 발견되었지만 여전히 체크섬용으로 가끔 쓰임)

특징	설명
충돌내성(Collision Resistance)	서로 다른 입력이 같은 해시값을 만들기 어렵게 하는 성질
단방향성(One-wayness)	해시값에서 원본 메시지를 복원하기 매우 어려움

② MAC(Message Authentication Code)

• 메시지의 무결성과 인증을 제공
• 대칭키를 이용해 메시지의 해시값을 생성하고, 수신자도 같은 키로 검증

③ 전자서명(Digital Signature)

• 비대칭키(개인키, 공개키)로 메시지에 서명
• 서명자는 개인키로 서명하고, 누구나 공개키로 서명을 검증해 메시지의 출처와 무결성을 확인

1) 동작 원리 예시

1. 송신자(서명자)는 메시지의 해시값을 개인키로 암호화하여 전자서명을 생성
2. 수신자는 송신자의 공개키로 서명을 복호화해 해시값을 복원, 메시지를 해시하여 비교
3. 동일하면 메시지가 변조되지 않았음을 알 수 있음

---

6. 보안 프로토콜 : TLS/SSL, IPSec, PGP 등

① TLS/SSL

• 인터넷 통신 보안을 위한 대표 프로토콜
• 웹 브라우저에서 주소창이 ‘https://’로 시작하면 TLS(SSL)로 암호화된 연결
• 하이브리드 암호 방식을 사용해, 먼저 RSA/ECC 등으로 세션 키를 교환한 뒤, AES 등 대칭키로 데이터를 안전하게 전송

② IPSec

• 네트워크 계층(IP 계층)에서 패킷 자체를 암호화/인증
• VPN 연결 시 자주 활용, 회사 내부망을 외부에서 안전하게 접근 가능

③ PGP(Pretty Good Privacy)

• 이메일 암호화에 자주 사용하는 프로토콜/소프트웨어
• 공개키 암호와 대칭키 암호를 결합해, 이메일 본문을 안전하게 암호화 및 서명

---

7. 암호학의 실제 응용 사례

① 전자상거래(Online Payment)

• 결제 정보 보호 : 사용자 신용카드/계좌 정보가 암호화 채널(TLS)로 전송
• 전자서명 : 전자서명을 통해 결제 승인·승인 내역이 위변조되지 않았음을 보장

② 블록체인 및 암호화폐

• 블록체인은 트랜잭션 무결성을 해시 체인(Hash Chain)을 통해 달성
• 암호화폐(비트코인 등): ECDSA(타원 곡선 서명) 등을 사용해 소유권 증명 및 거래 서명

③ 전자정부·공공 인증

• 주민등록등본 발급, 세금 신고 등 전자정부 사이트에서 사용되는 공인인증서(현재는 다양한 간편 인증으로 대체 중)
• 암호학 기반 전자서명과 인증서 체계로 신분 확인 및 서명 기능 제공

---

8. 포스트 양자 암호(Post-Quantum Cryptography)와 양자 컴퓨팅

현대 암호학의 근간이 되는 RSA, ECC 등은 대규모 양자 컴퓨터가 등장하면 취약해질 가능성이 제기되고 있습니다.
양자 컴퓨터의 쇼어 알고리즘(Shor’s Algorithm)이 큰 소수 인수분해를 지수적으로 빠르게 수행할 수 있기 때문입니다.

① 양자 컴퓨터와 쇼어 알고리즘

• 양자 컴퓨팅은 큐비트(Qubit)의 중첩·얽힘 현상을 활용해 병렬 연산을 수행
• 쇼어 알고리즘은 인수분해, 이산 로그 문제를 빠르게 해결
• 결과적으로 RSA, ECC 같은 수학적 난제 기반 암호가 깨질 수 있음

② 포스트 양자 암호(PQC)

• 양자 컴퓨터가 실용화되어도 안전한 암호
• NIST 등 국제 표준화 기구에서 격자(Lattice) 기반, 다항식(Polynomial) 기반, 코드(Code) 기반 암호 등을 연구
• 예: CRYSTALS-Kyber, Dilithium, FrodoKEM, BIKE, HQC 등

③ 양자 암호(Quantum Cryptography)

• 양자 키 분배(QKD, Quantum Key Distribution) 등을 통해 통신 채널 자체를 양자 물리학적 원리에 의해 안전하게 만들려는 시도
• 도청이 발생하면 양자 상태가 변형되어 즉시 탐지 가능
• 다만, 양자 암호화 장비는 인프라 구축 비용과 물리적 한계(거리, 안정성)가 존재

---

9. 암호 시스템의 보안과 취약점

암호학 이론이 아무리 완벽해도, 현실에서는 설계·구현·운영 단계에서 다양한 취약점이 발생할 수 있습니다.

1. 구현 오류 : 소프트웨어에 버그가 있으면, 취약점을 통해 키나 평문이 노출될 수 있음
2. 키 관리 실패 : 강력한 알고리즘도, 키가 유출되면 무용지물
3. 인간적 요소 : 피싱 공격, 사회공학, 내부자 유출 등
4. 무작위성 부족 : 난수 발생기가 예측 가능하면 키가 약해짐

따라서, 안전한 암호 시스템을 위해선 알고리즘 선택뿐 아니라, 시스템 전반(키 생성·관리, 운영 절차, 물리 보안, 사람 교육 등)을 고려해야 합니다.

---

10. 암호학을 공부하고 싶은 이들을 위한 가이드

암호학은 방대한 분야이기 때문에 어디서부터 어떻게 공부할지 고민이 될 수 있습니다. 아래는 몇 가지 참고 사항입니다.

① 학습 로드맵

1. 수학 기초 : 정수론(소수, 모듈러 연산), 선형대수, 확률/통계
2. 고전 암호 : 시저 암호, 비즈네르 암호 등 간단 사례로 ‘치환-전치’ 개념 이해
3. 현대 암호 : 대칭키, 비대칭키, 해시, MAC, 서명, 프로토콜(TLS, PGP 등)
4. 고급 주제 : 타원 곡선(ECC), 양자 암호, 포스트 양자 암호, 안전한 구현 기술

② 추천 자료

1. 온라인 강의/사이트
   • Coursera, edX 등 MOOC 플랫폼의 암호학 강의
   • NIST, IETF의 암호 표준 문서(RFC)
2. 커뮤니티
   
   • 각종 보안 컨퍼런스(Black Hat, DEF CON 등) 발표 자료

---

11. Tip 섹션 : 안전한 암호 사용을 위한 조언

1. 강력한 키 길이 선택
   • 대칭키: 최소 128비트 이상(가능하면 256비트)
   • RSA: 최소 2048비트 이상, 중요한 경우 4096비트 권장
2. 최신 알고리즘 사용
   • AES-256, ChaCha20(대칭키)
   • RSA-2048 이상, ECC-256 이상(비대칭키)
3. 안전한 프로토콜 버전
   • TLS 1.2 이상, 가능하면 TLS 1.3
4. 난수 발생기
   • 신뢰할 수 있는 난수 소스 활용 (/dev/urandom, 하드웨어 TRNG 등)
5. 정기적인 키 교체(Key Rotation)
   • 장기간 같은 키 사용은 위험
6. 라이브러리 검증
   • 오픈소스 암호 라이브러리(예: OpenSSL, libsodium, BouncyCastle 등)는 정기적으로 버그 패치를 확인
7. 소스코드 리뷰
   • 암호 관련 코드는 전문가 검토가 필수

---

12. 결론 : 시저 암호부터 양자 암호까지 이어진 긴 여정

시저 암호처럼 고대 로마 시대부터 시작된 암호의 역사는, 현대에 이르러 대칭키, 비대칭키, 양자 암호까지 폭넓게 발전했습니다. 이 모든 발전은 데이터 보호와 안전한 정보 교류라는 목표를 향해 끊임없이 달려온 결과입니다.

 

오늘날 암호학은 인터넷, 금융, 국방, 의료, 사물인터넷(IoT) 등 우리 삶의 거의 모든 영역에 침투해 있으며, 실제로는 매우 복잡한 수학 이론과 프로그래밍 기술이 융합되어 작동하고 있습니다. 앞으로 양자 컴퓨터가 실용화되면, 포스트 양자 암호로의 전환이 가속화될 것이며, 또다른 새로운 시대가 열릴 것입니다.

 

이 글이 암호학에 입문하려는 독자들에게 기본 지식과 흥미를 제공하는 계기가 되었길 바랍니다.