📘 대칭키와 비대칭키

네트워크 관련 수업을 듣거나 DB 쪽 수업을 듣게 되면 한번 씩은 마주치는 내용이다. 암호학과 관련된 내용을 적어볼 거지만, 알기 쉽게 정리해보자

우선 들어가기에 앞서 키가 뭘까?

암호학에서 말하는 키는 자물쇠를 여는 열쇠라고 생각하면 된다.
우리가 암호화 알고리즘을 이용하여 메세지를 암호화하면 아무도 못 읽을 것 이다(아마도?) 근데 우리도 못읽으면 안되지 않는가,,그래서 키가 필요한 것이다.

또 암호화 알고리즘이라고 해서 그냥 막 섞어버릴수도 있는데, 그게 아니다. 정해진 규칙(수학 규칙)이 존재하고 그걸 이용해서 데이터를 바꾸어야하는 것이다. 그리고 그 알고리즘에 들어가는 비밀 값이 “키”인 셈이다.

“암호화 알고리즘 = 요리법, 키 = 비밀 재료”라고 생각하면 쉽다.
요리법이 같아도 비밀 재료가 다르면 결과도 달라지니까.

대칭키 암호화 (Symmetric Key)

암호화할 때 쓰는 키 = 복호화할 때 쓰는 키

암호화는 알아볼 수 없게 내용을 바꾸는 거 일거고,,복호화는 또 뭐야 싶을거다. 복호화는 암호화와 반대 개념이다. 암호화에서 바꾼 내용을 다시 알아볼 수 있게 바꾸는 걸 복호화라고 한다.

대칭키를 쉽게 비유하면 같은 열쇠로 잠그고 같은 열쇠로 푸는 구조다.

같은 열쇠만 있으면 되니까 장점은 매우 빠를것이고..자연스럽게 대용량 데이터 처리에 좋을 것이다. (빠르니까)
하지만 단점도 명확하다. 키가 하나니까 그 키를 어떻게 안전하게 공유하지? 뺏기면 어쩌지? 즉 보완에 너무 취약하다.

대칭 키의 대표 알고리즘에는 AES, DES, 3DES가 있다. 이건 뒤에서 자세히 설명하겠다.

비대칭키 암호화 (Asymmetric Key)

암호화할 때 쓰는 키 ≠ 복호화할 때 쓰는 키

암호화할 때와 복호화할 때의 키가 다르니까 키가 2개인 거다.

공개키 (Public Key)와 개인키 (Private Key)

우선 공개키는 말 그대로 누구에게나 공개된/누구나 가질 수 있는 키다. 반대로 개인키는 나만(각 사용자만)이 가질 수 있는 키다.

아까 대칭키는 암호화와 복호화에 같은 키였지만, 비대칭키는 이와는 다르게 암호화에는 공개키를, 복호화에는 개인키를 사용한다.
즉 공개키로 잠그면 대응되는 개인키로만 풀 수 있다.
쉽게 설명하면 투표를 할때 우리는 누구나 투표함에 투표지를 넣을 수 있다. 이게 공개키다. 하지만 투표함을 여는것은 단 하나의 열쇠뿐이다. 이걸 개인키라고 생각하면 쉽다.

근데 반대의 상황도 있다. “이 메시지가 진짜 나한테서 온 것”을 증명하고 싶을때
이상황에서는 내가 개인키로 먼저 암호화(서명)을 하고 다른 사람이 공개키로 복호화(확인)을 해야한다.
즉 신원증명을 할때에는 위 상황과는 다르게 암호화에는 개인키를 복호화에는 공개키를 사용할 수도 있다는 것이다.

대칭키와는 달리 2개의 키를 가지고 있으니까 보안적으로도 안전하고, 키를 미리 공유할 필요가 없다. 즉 키 분배 및 관리가 용이한 편이다. 또한 기밀성, 무결성, 부인방지의 기능을 제공한다. 쉽게 이해해보자.

기밀성 : 내가 개인키를 갖고 있으니까 남이 내용을 못본다
무결성 : 내용이 중간에 바뀌지 않는다. (비대칭키는 해시를 증명)
부인방지 : 내가 개인키로 서명했다면 공개키로 누구나 확인할 수 있다. 즉 내가 보낸게 아니라고 거짓말 못하는 상황인거다. 왜? 내 개인키로 서명했으니까 (아까 말한 신원증명의 예시)

하지만 비대칭키도한 단점이 존재한다. 대칭키는 하나의 키인 반면 얘는 2개의 키지 않는가? 상대적으로 느릴수 밖에 없다 비대칭은.

비대칭키의 대표적인 알고리즘에는 RSA, ECC, DSA가 존재한다.

대칭키 알고리즘

DES (Data Encryption Standard)

쉽게 설명하면, 64비트씩 잘라서(블록) 16번 섞어서 암호화하는 대칭키 알고리즘이다. 왜 계속 섞을까? 규칙없이 섞어야지 키 없이는 예측이 안되기 때문이다. DES의 흐름을 보자.

1️⃣ 데이터를 64비트(8바이트)로 자른다.

DES는 한 번에 8바이트만 처리한다. 문장이 길면 8바이트씩 나눠서 각각 암호화한다.

남는 부분은 패딩으로 채워 맞춘다.

여기까지는 준비 단계다.

2️⃣ 64비트를 반으로 나눈다

왼쪽(L) : 32비트 / 오른쪽(R) : 32비트

3️⃣ 오른쪽(R)을 복잡하게 변형한다 (F 함수)

단순히 섞는 게 아니라 32비트를 48비트로 확장하고

거기에 라운드 키(부분 키)를 XOR로 섞고 S-Box라는 표를 통해 값을 완전히 다른 값으로 치환하고 다시 순서를 재배열한다.
이 과정을 통해작은 변화가 완전히 다른 결과를 만들도록 설계되어 있다.

이걸 비선형성 + 확산이라고 부른다.

4️⃣ 그 결과를 왼쪽(L)과 XOR로 섞는다

한쪽의 변화가 다른 쪽에도 퍼지게끔 하는 것이다.

5️⃣ L과 R을 바꾼다.

왜 바꾸냐? 한쪽만 계속 변형하면 불균형해지기 때문이다.
좌우를 번갈아가며 섞으면 데이터 전체가 고르게 뒤틀린다.

6️⃣ 이걸 16번 반복한다

이렇게만 보면 흠잡을 곳 없는 알고리즘이다. 하지만 키 길이가 56비트(64비트 처럼 보이지만 실제 사용은 56비트 남은 8비트는 오류검사용)라서 지금 기준으로는 짧다. 56비트면 2의 56제곱인데?? 하지만 현대 컴퓨터로는 브루트포스 공격이 가능해졌다. 별거아니라는 소리다..
그래서 나온게 3DES다. 바로 확인해보자

3DES

DES를 3번 반복한 알고리즘이다. 방금 56비트가 너무 짧다 했는데 그럼 여러번 돌리면 되지않을까?해서 나온 알고리즘이다.

3DES는 기본적으로 암호화 -> 복호화 -> 암호화 과정을 가진다.

왜 복호화 과정을 거치냐? 이건 또 역사적인 이유가 존재한다.
1990년대 초반에는 모두 DES 알고리즘을 사용했다. 근데 갑자기 다른 알고리즘으로 바꾼다? 이건 너무 어려운 상황인거다. 근데 56비트로는 부족하고…그래서 완전히 새거로 바꾸지말고 기존 시스템을 유지하면서 보안을 높이자! 이 고민에서 나온게 3DES인 셈이다.

그래서 복호화는 왜 쓰는데? 자 먼저 단순하게 3번 암호화를 한다고 생각해보자.
암호화(key1) -> 암호화(key2) -> 암호화(key3)
근데 key1, 2, 3이 모두 같으면? 이건 DES를 3번 암호화한 거다. DES 한번과 절대 같지 않다는 거다. 아까 우리는 새걸 바꾸지말고 기존 시스템을 유지하자 했는데 거기에 어긋난다는 거다.

자 이제 복호화를 포함한다고 생각해보자
암호화(key1) -> 복호화(key2) -> 암호화(key3)
key1, 2, 3이 모두 같다고 해보자. 그럼 암호화(key) -> 복호화(key) 과정은 상쇄될 것이다. 그럼 남은거는 암호화(key) 하나 뿐. 이거는 DES와 동일하다. 이래서 중간에 복호화 과정이 있는 것이다.

즉 key1, 2, 3이 모두 같을 때 3DES가 정확히 DES처럼 동작하게 만들기 위해서다.

그럼 이제 질문
근데 3DES 쓰지 왜 AES 쓰는 거야?
너무 느리다..DES를 3번이나 돌린거니까 연산량이 3배인거다. 또 DES는 1970년대 기술이다. 구조가 너무 오래된 것이다. 또한 DES와 3DES는 64비트 블록을 사용하는데, 데이터가 많을 수록 패턴이 반복될 가능성이 커진다. 그래서 등장한 것이 바로 AES다.

AES (Advanced Encryption Standard)

2001년에 DES를 대체하기 위해 선정된 알고리즘이다. 훨씬 빠르고, 키 길이도 길고, 구조 자체가 현대적인 구조다.

우선 64비트 블록인 DES과 다르게 AES는 128비트(고정)의 블록이다. 또한 키 길이는 128, 192, 256비트 중 선택이 가능하다. 128비트만 해도 충분하다. 2의 128제곱? 이건 우주 나이보다 더 오래걸리는 수준이다.

DES는 반으로 나누고 XOR하고 16번 반복이였는데 AES는 완전히 다르다. AES는 데이터를 4x4 표(행렬)처럼 놓고 섞는다. 키의 사이즈에 따라 라운드(반복)의 수가 달라지는데 128은 10, 192는 12, 256은 14다. 키가 길수록 더 많이 섞는다는 거다.

너무 수학적을 말하면 머리 아프니까 쉽게 이해해보자.
각 라운드에서는 4가지 작업을 한다.

1️⃣ SubBytes (치환)

각 바이트(각 칸의 값)를 다른 값으로 바꾼다.

그냥 무작위는 아니고, 미리 정해진 S-Box라는 표를 사용한다. 예측 불가능하게 만드는 것이다.

2️⃣ ShiftRows (행 이동)

행을 옆으로 밀어버리는 거다.
1행은 그대로, 2행은 1칸 이동, 3행은 2칸 이동, 4행은 3칸 이동

3️⃣ MixColumns (열 섞기)

이번에는 열 단위로 수학적으로 섞는다. 단순 이동이 아니라 수학 연산(GF(2^8))을 이용한 혼합이다. 그냥 데이터가 서로 강하게 얽히게 한다고 생각하면 된다.

4️⃣ AddRoundKey (키 섞기)

현재 데이터에 라운드 키를 XOR로 섞는다. 여기서 비밀번호가 개입한다.

이 4단계를 여러 번 반복하면 원본 데이터는 완전히 뒤섞인다.

이렇듯 AES는 키 길이 길고, 블록 크기가 크다. 또 구조가 현대적이며, 하드웨어 가속 가능하다. 즉 매우 빠르다. 그러므로 지금 전 세계 표준이다. HTTPS, Wi-Fi, VPN, 파일 암호화 거의 다 AES를 쓴다.

비대칭키 알고리즘

RSA

Rivest, Shamir, Adleman 이 세사람의 앞글자를 딴 1977년에 등장한 대표적인 비대칭키 알고리즘이다.
큰 소수 두 개를 곱하는 거는 쉽지만, 다시 나누는 것은 어렵다. 예를 들어 17 x 23 = 391이다. 이건 쉽다. 근데 391만 보고 17과 23을 생각할 수 있을까? 수가 더 커질수록 어려울 것이다.
RSA는 이러한(소인수분해) 원리를 이용한 알고리즘이다.

RSA는 어떻게 키를 만들까? RSA는 아래와 같이 시작한다.
1️⃣ 매우 큰 소수 두 개를 고른다 (p, q)
2️⃣ 둘을 곱해 큰 수 n을 만든다.
여기서 n이 공개키의 일부가 된다. 여기서 중요한 점은 n은 공개하지만, p와 q는 절대 공개되지 않는다.
그리고 이 p와 q 두 소수를 이용하여 특별한 수학적 관계를 만족하는 숫자 두 개를 만든다.
공개키에 사용되는 e, 개인키에 사용되는 d
e로 암호화한 값은 d로만 다시 원래 값으로 돌아온다.

RSA는 2가지의 용도로 사용된다. 기밀성 (Confidentiality)과 전자서명 (Signature)

기밀성을 위한 RSA 사용 방식을 먼저 이야기 하자면,
1️⃣ 상대의 공개키(e, n)를 받는다.
2️⃣ C = M^e mod n 이런식으로 메세지를 계산한다.
3️⃣ 그러면 상대는 자신의 개인키 d로 M = C^d mod n 을 계산하면 원래 메세지가 나온다.
말이 너무 어려운데 핵심은 n만 알고는 d를 구할 수 없다는 거다. p와 q를 모르니까. 그래서 공개키로 암호화하면 개인키 없이는 복호화가 불가능하다.

RSA는 반대로도 사용할 수 있다. 기밀성이 아닌 전자서명 즉 신원 증명이다.
1️⃣ 문서를 만든다
2️⃣ 문서를 해시(Hash)한다
3️⃣ 그 해시값을 개인키 d로 암호화한다
이게 전자 서명이다.
상대는 공개키 e로 복호화해 해시값을 얻는다. 그리고 문서를 다시 해시해서 비교한다. 비교값이 같다면? 내가 개인키를 가진 사람이 맞고, 문서가 중간에 바뀌지 않았다는 뜻이다.

RSA는 당연히 키가 2개이기에 키 분배가 쉽다. 또한 계산이 복잡하기에 보안 능력이 뛰어나다.
하지만 느리다.. 그래서 실제 데이터 암호화는 AES가 담당하고, RSA는 키 교환이나 서명에 사용된다.