개요
예전에 관리하던 블로그에서 커널에서 사용하는 likely와 unlikely 에
대해서 정리한 포스팅이 있었다. 하지만 시간이 지나 커널 분석 책을 다시
보며 likely, unlikely를 보니 다시 헷갈리기 시작했다.
회사 업무에서 실행 시간을 줄이는 데에 중요도를 두고 있지만 그 방법에 대해서는 아직 다루지 못하고 있다. 솔루션이 안정화되고 전체적인 업무 내용이 파악되면 본 내용을 정리하면서 실행 시간을 감소할 방법으로 prediction을 이용하는 것을 건의해보고 진행해볼 수 있을 것 같다.
likely(), unlikely()
함수의 이름 그대로, 자주 일어날 듯하거나 자주 일어나지 않을 듯한 것을 위한 매크로이다. 출처에는 아래와 같은 예제를 제공하고 있다.
1bvl = bvec_alloc(gfp_mask, nr_iovecs, &idx);
2if (unlikely(!bvl)) {
3 mempool_free(bio, bio_pool);
4 bio = NULL;
5 goto out;
6}
특정 condition을 확인하는 용도로 사용하는데 위의 코드에서는
bvec_alloc으로 할당받고 bvl이 유효한 주소값이라면 메모리 해제를 하고
NULL로 변경하는 코드이다.
include/linux/compiler.h 파일에 정의되어 있는 매크로로서 branch
prediction 을 위한 용도로 사용된다. 즉, 결과값이 대부분 false로
예상된다면 unlikely()를, true로 예상된다면 likely()를 사용함으로서
컴파일러를 통한 분기 예측을 이용하여 성능 향상을 꾀할 수 있다.
각각의 정의를 살펴보면, 아래와 같이 되어 있다.
__built-in function
__builtin_expect를 사용하는 것은 컴파일러에게 분기 예측(branch
prediction) 정보를 제공하기 위한 것이다. 일반적으로 개발자들은 자신의
프로그램이 어떻게 수행되는지 알기 힘들기 때문에 ‘-fprofile-arcs’
옵션을 통해 프로파일을 피드백 받는 것을 선호한다. 하지만
애플리케이션에 따라서 이러한 옵션을 통해 프로파일링이 힘든 경우도
있다.
예제
아래의 예제를 통해 성능 향상이 어떻게 가능한지 살펴보자.
1#define likely(x) __builtin_expect(!!(x), 1)
2#define unlikely(x) __builtin_expect(!!(x), 0)
3
4int main(int argc, char *argv[]) {
5 int a;
6
7 a = atoi (argv[1]);
8
9 if (unlikely (a == 2))
10 a++;
11 else
12 a--;
13
14 printf("%d\n", a);
15
16 return 0;
17}
위 예제를 컴파일 한 다음, objdump로 살펴보면 아래와 같이 main 부분을 발견할 수 있다.
1$ gcc -o unlikely unlikely.c
2$ objdump -S unlikely
3
4
50000000000001149 <main>:
6 1149: 55 push %rbp
7 114a: 48 89 e5 mov %rsp,%rbp
8 114d: 48 83 ec 20 sub $0x20,%rsp
9 1151: 89 7d ec mov %edi,-0x14(%rbp)
10 1154: 48 89 75 e0 mov %rsi,-0x20(%rbp)
11 1158: 48 8b 45 e0 mov -0x20(%rbp),%rax
12 115c: 48 83 c0 08 add $0x8,%rax
13 1160: 48 8b 00 mov (%rax),%rax
14 1163: 48 89 c7 mov %rax,%rdi
15 1166: b8 00 00 00 00 mov $0x0,%eax
16 116b: e8 d0 fe ff ff callq 1040 <atoi@plt>
17 1170: 89 45 fc mov %eax,-0x4(%rbp)
18 1173: 83 7d fc 02 cmpl $0x2,-0x4(%rbp)
19 1177: 0f 94 c0 sete %al
20 117a: 0f b6 c0 movzbl %al,%eax
21 117d: 48 85 c0 test %rax,%rax
22 1180: 74 06 je 1188 <main+0x3f>
23 1182: 83 45 fc 01 addl $0x1,-0x4(%rbp)
24 1186: eb 04 jmp 118c <main+0x43>
25 1188: 83 6d fc 01 subl $0x1,-0x4(%rbp)
26 118c: 8b 45 fc mov -0x4(%rbp),%eax
27 118f: 89 c6 mov %eax,%esi
28 1191: 48 8d 3d 6c 0e 00 00 lea 0xe6c(%rip),%rdi # 2004 <_IO_stdin_used+0x4>
29 1198: b8 00 00 00 00 mov $0x0,%eax
30 119d: e8 8e fe ff ff callq 1030 <printf@plt>
31 11a2: b8 00 00 00 00 mov $0x0,%eax
32 11a7: c9 leaveq
33 11a8: c3 retq
34 11a9: 0f 1f 80 00 00 00 00 nopl 0x0(%rax)
cmpl %0x2, -0x4(%rbp) 에서 보듯 2와 같을 경우에 jump 명령어를
수행하고 같지 않을 경우에는 계속해서 명령어를 순차 진행한다. je
명령어를 실행하지 않으니 pipeline flush가 일어나지 않아 branch
prediction을 하지 않았을 때보다 성능 향상을 꾀할 수 있다.
만약, likely()를 하게 되면 어떨까? 아마 반대로 명령어가 실행될
것이다. 즉, 프로그래머가 예상하는 시나리오로 분기 예측을 하여 최대한
jump 명령어를 수행하지 않도록 하는 기법이다.