[1주1장 CS] 컴퓨터는 어떻게 자연수와 정수를 나타낼까?

서론

이번 주부터 매주 한 장씩 컴퓨터과학에 대해 알아보는 시리즈를 시작합니다. 이번 주의 주제, “컴퓨터는 어떻게 음수를 나타낼까?”입니다.

진법

진법과 이진법에 대해 잘 알고 계시다면 이 장을 건너뛰어도 좋아요.

진법은 밑이 $b$일 때 $0$ ~ $(b-1)$까지의 숫자를 사용, 더 큰 수는 자릿수를 올려 표현하는 기수법[기호를 사용해 수를 표현하는 방법과 그 규칙]을 말합니다. 밑에 따라 $b$진법이라고 부르고, 위치에 따라 수를 나타내기 때문에 위치 기수법이라고도 합니다. [1] 우리가 흔히 사용하는 진법은 10진법으로, 밑이 10이고 0~9까지의 숫자를 사용합니다.

진법으로 나타낸 수는 $i$번째 자리의 수를 $a_i$라 하고 밑을 $b$라 할 때, $a_{n}b^{n} + a_{n-1} b^{n-1}+\dots+a_1 b^1+a_0$입니다. 10진법 수 1234로 예를 들어볼까요?

모두 더하면 1234가 됩니다.

보다 쉽게 생각하면, 10진법에서는 흔히 1의 자리, 10의 자리와 같은 표현으로 자릿수를 말하곤 합니다. 따라서 다른 진법에서도 가장 작은 자릿수부터 $b^0$의 자리, $b^1$의 자리$\cdots$로 생각하면 보다 쉽게 이해할 수 있습니다.

이 글에서는 앞으로 밑이 $b$인 수 $x$를 $x_b$로 표기하겠습니다.

이진법

이진법은 0과 1만을 사용하는 진법입니다. 위의 예시와 같은 방식으로 이해할 수 있겠죠? 2진법 수 $1011_2$를 위의 방식으로 나타내, 10진법으로 바꿔 봅시다.

모두 더하면 11이 됩니다. 따라서 $1011_2=11_{10}$입니다.

거꾸로 10진법 수를 2진법으로 바꿔 봅시다. 11을 다시 2진법으로 바꾸어 보겠습니다.

밑 $b$로 몫이 0이 될 때까지 계속 나눠서 묶으면 $b$진법으로 바꿀 수 있습니다. 이제 0을 포함한 자연수를 나타낼 수 있게 되었네요. [2]

컴퓨터에서 음수 표현

그런데 앞서 살펴본 방법은 0을 포함한 자연수만을 표현할 수 있습니다. 컴퓨터에서는 어떻게 음수를 표현할까요?

보수

먼저 보수에 대해 알아보고 넘어가야 합니다.

$b$진법에서 보수는 $b-1$의 보수와 $b$의 보수가 있습니다. $n$자리 수 $x$의 $b-1$의 보수는 $b^n-1-x$이고, $b$의 보수는 $b^n-x$입니다. 따라서 $b$의 보수는 $b-1$의 보수에 1을 더한 값입니다. [3]

이 글에서는 8자리를 예시로 사용하겠습니다.

1의 보수

먼저 1의 보수를 음수로 생각해 봅시다.

$11=0000\:1011_2$의 1의 보수를 먼저 계산해 봅시다. $b^n-1=2^8-1=15=1111\:1111_2$이므로,

따라서 $11=0000\:1101_2$의 1의 보수는 $1111\:0100_2$, 즉 $-11=1111\:0100_2$. 한편, 이는 각 자릿수의 부호를 뒤집은 것, 즉 NOT 연산을 한 것과 같습니다.

1의 보수를 실제로 음수로 사용할 수 있을지 $15-11=0000\:1111_2+1111\:0100_2$를 계산해 봅시다. 예상이 맞다면, $4=0000\:0100_2$가 나오겠죠?

원하는 결과가 나왔지만, 중간에 8자리가 넘어간 부분(carry)가 생기면 그것을 다시 더해줘야 하기 때문에 계산이 복잡해집니다. 거기에 0을 나타내는 표현이 2개(8자리라면 $0=0000\:0000_2$과 $-0=1111\:1111_2$)가 생기는 문제도 있습니다. [4]

2의 보수

2의 보수를 사용하면 앞선 문제를 해결할 수 있습니다. 2의 보수는 1의 보수에 1을 더한 값입니다. 따라서 $11=0000\:1011_2$의 2의 보수는 $1111\:0101_2$입니다. 앞선 계산 $15-11$을 다시 해 봅시다.

8자리를 넘어가는 부분을 잘라내기면 하면 바로 원하는 값, $4=0000\:0100_2$가 나옵니다. 이처럼 2의 보수를 사용하면 덧셈이나 뺄셈에서 음수를 자연스럽게 표현할 수 있습니다. 0을 나타내는 표현도 $0000\:0000_2$ 하나만 있어서 비교가 쉽습니다. 이제 왜 컴퓨터에서 음수를 표현하는 데 2의 보수를 사용하는지 알 수 있겠죠?

정리

컴퓨터에서는 음수를 표현할 때 2의 보수를 사용합니다. 앞이 1로 시작하면 음수, 0으로 시작하면 음수로 볼 수 있겠죠. 추가로, 부호가 있는 $n$비트 정수에서는 $-(2^{n-1})$~$2^n-1$까지 표현할 수 있음을 알 수 있습니다. 예를 들어 부호 있는 8비트 정수는 $-128$~$127$까지 표현할 수 있습니다 ($0111\:1111_2=127$, $1000\:0000_2=-128$).

오버플로

음수를 나타내는 방법을 알았으니, 이제 오버플로[Overflow; 연산 결과가 표현할 수 있는 범위를 넘어가는 현상] 현상도 더욱 잘 이해할 수 있겠습니다. 가장 큰 양수에서 1을 더하면 받아올림이 일어나며 부호가 바뀌고, 가장 작은 정수가 됩니다. 반대로 가장 작은 음수에 1을 빼도 가장 큰 양수가 되어버립니다. 8비트에서의 예를 볼까요?

따라서 $0111\:1111_2+1=1000\:0000_2=-128, 1000\:0000_2-1=0111\:1111_2=127$이 되어버리는 이 현상을 오버플로라고 합니다.

부호 없는 정수

물론 부호 없는 정수에서도 오버플로는 발생합니다. 부호 없는 8비트 정수에서는 $0$~$255$까지 표현할 수 있습니다. 여기서도 마찬가지 현상을 볼 수 있습니다. $255+1=1111\:1111_2+0000\:0001_2$을 봅시다.

8비트로 자르면 $0000\:0000_2=0$이 되어버립니다.

정리

오늘 내용을 간단히 정리해 봅시다.

• 진법: 밑 $b$에 따라 $0$ ~ $(b-1)$까지의 숫자를 사용, 가장 작은 자릿수부터 $b^0$의 자리, $b^1$의 자리$\cdots$로 수를 나타내는 법
• 컴퓨터 → 2진법 사용
• 컴퓨터 → 음수를 표현할 때 2의 보수를 사용 ∵ 자연스럽게 음수의 덧셈과 뺄셈을 나타낼 수 있음
  • 2의 보수: 비트를 뒤집고 1을 더한 값

용어

label

기수법

기호를 사용해 수를 표현하는 방법과 그 규칙

label

오버플로

Overflow; 연산 결과가 표현할 수 있는 범위를 넘어가는 현상

@misc{devngho202520250322weeklycsintegersincomputers,
  author       = {Yu, Dongho},
  title        = {[1주1장 CS] 컴퓨터는 어떻게 자연수와 정수를 나타낼까?},
  howpublished = {\url{https://ngho.dev/posts/20250322-weekly-cs-integers-in-computers}},
  year         = {2025},
  month        = {mar},
  note         = {Accessed: 2025-03-23}
}

@misc{devngho202520250322weeklycsintegersincomputers,
  author       = {Yu, Dongho},
  title        = {[1주1장 CS] 컴퓨터는 어떻게 자연수와 정수를 나타낼까?},
  howpublished = {\url{https://ngho.dev/posts/20250322-weekly-cs-integers-in-computers}},
  year         = {2025},
  month        = {mar},
  note         = {Accessed: 2025-03-23}
}