[운영체제 공룡책] Ch4. Threads & Concurrency

📍 공룡책 기반으로 학교에서 수업했던 운영체제를 정리합니다.

1️⃣ Thread

(1) 개념

하나의 프로세스는 여러 개의 스레드를 가질 수 있다. 스레드란 뭘까?

• Thread : CPU를 사용하는 기본적인 단위 (Basic Unit of CPU utilization)
• 스레드 = 실 = Execution flow(실행 흐름)

스레드를 사용할 때와 하지 않을 때 프로그래밍 하는 방식도 아예 달라지게 된다!

 

Single-Threaded일 때

: 같은 공간에서(= 하나의 프로세스, 하나의 스레드) task1() 함수를 실행하고난 다음에 task2() 함수 실행한다

 

Multi-Threaded일 때

: 코드 자체는 같은 공간에 있지만(= 같은 프로세스에 있지만), 다른 스레드에서 실행 → task1()과 task2()가 동시에 각 스레드에서 시작 

 

그렇다면 같은 하나의 프로세스더라도, 스레드를 만들어서 처리하면 어떻게 다를까?

• 스레드 각각 개별로 갖는 부분
  • 각자 Thread ID
  • 각자의 execution flow : flow의 진행 표시 → PC
  • 각자 처리하는 코드가 다름 : Register
  • 각 스레드가 서로 다른 함수를 호출 : Stack
• 스레드 간에 공유 하는 부분
  • 코드, 전역 변수, open files …

전역 변수로 선언한 buffer와 count는 두 스레드에서 모두 사용 가능하다

 

즉, 두 함수를 동시에 실행시키고 싶을 때 

여러 개의 프로세스를 만드는 것 (= Multi-Process)과

여러 개의 스레드를 만드는 것(= Multi-Thread)의 차이가 있는 것이다!

→ 코드와 전역 변수를 공유하기 때문에 서로 무언가를 주고 받거나 하는 커뮤니케이션 하기가 쉽다!

---

(2) Process in Memory

스레드가 하나일 때와, 여러 개일 때 프로세스에서 메모리를 어떻게 사용하는지를 그림으로 비교해보자.

멀티 스레드일 때를 보면 스레드마다 stack을 각각 가지고 그 안에서 각 함수 부분이 저장되지만, 전역 변수 부분(data)은 공유한다!

 

• 멀티 스레드 프로세스를 했을 때의 장점은 무엇일까?
  • Responsiveness(반응성) : execution flow가 여러개 → 하나가 block 되어도 다른 것은 살아있다 = 더 좋은 반응성 제공
  • Resource sharing
  • Economy : 직접 어드레스를 공유하니까 프로세스를 만드는 것보다 더 경제적이다
  • Scalability : 모든 코어 이용할 수 있게(싱글이면 코어가 몇개이든 1개 코어만 쓸 수밖에 없으니까)

---

(3) Use Cases

1. Multithreaded Server

: 언제 클라이언트가 접속할 지 모른다 → 클라이언트가 접속을 했을 때 client를 handling하는 쓰레드를 만든다.

→ 싱글이면 하나의 클라이언트만 할 수 있지만, 멀티 스레드면 여러명 concurrent 동시에 처리할 수 있게 된다.

2. Loop Pararellization

: Matrix Multiplication(행렬곱)을 할 때 하나의 열과 행을 곱해서 동시에 parallel 하게 병렬처리한다.

스레드를 2개만 해도 T → T/2 로 절반의 시간이 절약 가능하다.

---

2️⃣ Parallelism vs Concurrency ⭐️⭐️

둘이 다른 개념이다! 영단어라서 헷갈릴 수 있는데 꼭 차이를 기억해두자!

• Parallelism : 실제로(physically) 다른 코어에서 다른 테스크가 돌아가는 것
• Concurrency : 하나의 코어지만, 스레드가 코어를 나눠서 사용했을 때

위(=concurrent)는 한 번에 하나의 코어만 실행되지만, 테스크는 4개이다.

 

Parallelism은 다시 두 가지 종류로 구분할 수 있다.

• data : 하는 작업은 똑같다. 행렬곱처럼 row와 col을 곱하는 작업은 똑같지만 데이터가 분리된 경우.
• task : 하는 일이 서로 다를 때. 나눠서 처리. (e.g server application에서 다른 고객 동시에)

---

3️⃣ Multicore Processing

Single-core에서 성능을 높이기 위해서 Logical core의 수 증가하는 방식(hyperthreading)으로 했지만, 향상에 한계가 있었다.

따라서, Multi-core로 하게 되면 parallel 이 가능하므로 이 방식이 발전하고 있다!

• Multi-core나 Multi-Process를 사용하는 시스템에서의 어려움
  • Identifying tasks (태스크 인식)
  • Balance
  • Data Splitting
  • Data Dependency ; Synchronization(동기화), Data sharing(데이터 공유)
  • Testing and Debugging

+ 스레드 library로는 low level library인  POSIX Pthread가 있다!

---

4️⃣ Amdahl’s Law ⭐️⭐️

: 최적화 할 수 있는 부분 한정되어 있기 때문에, 최적화 가능한 부분에 따라서 코어 수가 증가할 때 얼마나 프로그램이 빨라질지 결정하는 식

• S : serial portion = 병렬 처리가 불가능한 비율
• N : processing cores ( N이 무한이면, 1 / S 에 가까워진다.)

예를 들어서 전부 병렬화 가능하다면 (하나의 코어에서 된 거를 2개의 코어에서→ 시간이 정확히 반으로 줄어들게 된다.)

speed up값은 2가 된다. 즉, 코어 수가 1개 늘어날 때마다 2배씩 프로그램이 빨라진다. 

 

절반만 병렬화 가능하다면 1개의 코어에서 2개의 코어가 됐을 때 speed up 값은 100/75가 된다.

즉, 1개의 코어에서 100시간이 걸렸던 일을 2개의 코어에서는 75시간 걸려서 할 수 있는 것이다.

 

따라서 최대한 중요한 부분, 많은 부분을 최적화하는게 중요하고, 최적화 가능한 부분이 어느정도인지 고려해야 한다!

---

5️⃣ User and Kernel Threads

• user thread : 우리가 작성한 스레드
• kernel thread : 실제로 코어에 돌아가는 것은 커널이 스케줄링한다

즉, OS에서 어떤 kernel thread가 돌아갈지 결정해서, user에서 mapping해주는 방식이다.

 

이 mapping을 해주는 방식의 종류에 대해서 알아보자

---

(1) Many-to-One

• user thread 여러개 ↔ kernel thread 1개
• 한 커널에는 한 스레드만 가능하기 때문에 돌아가면서 kernel thread에 mapping한다
• BUT 한 스레드의 문제로 전체가 블락이 되므로 쓰레드의 장점을 살릴 수 없는 방식이다

---

(2) One-to-One

• 유저 - 커널을 1 대 1로 맵핑
• 하나의 커널이 block되어도 다른 스레드에서 작업할 수 있다 (Many-to-One의 문제 해결)
• BUT 사용자 스레드의 개수만큼 커널 스레드 필요하므로...
  1. 관리하는 데 overhead가 생긴다 (kernel에 data structure 만들어서 관리해야 하기 때문)
  2. 스레드 개수 제한 : 리눅스 pthread_create()에서는 만들 수 있는 스레드의 개수가 제한되어있다

---

(3) Many-to-Many Model

• 여러개 to 여러개, 자유도가 높다
• 구현이 너무 어려워서 잘 사용되지 않는다 (어려운 이유 = 어디에 배치? 성능 영향? → 복잡해!!)

---

6️⃣ Pthreads

(1) 개념

결국 스레드를 생성 및 관리하는 것은 프로그래머 몫이기 때문에 API를 제공하고 이것이 Thread Library이다.

Thread Library를 구현하는 방법에는 2가지가 있다.

1. 유저 스페이스( =프로그래머 입장에서) → Pthreads로 우리가 직접
2. 커널 레벨에서 OS에 의해

이 중에서 Pthreads는 스레드 생성 및 동기화와 관련된 POSIX 인터페이스 표준 API이다

• 구현된 것이 아니다! (NOT implementation, Specification이다!!)
• 이는 스레드를 만드는 방식과 관리하는 방식이 똑같아서(위의 user/kernel 둘 다 가능), OS에 상관없이 가능하다

---

(2) Pthreads 함수

이제 스레드를 구현할 함수를 정의해야하는데, 어떻게 할까?

Pthreads는 우선 각 스레드가 하는 작업을 함수로 구현하고 이를 function pointer로 전달해서 스레드를 생성한다.

프로세스의 생성 및 관리와 매우 비슷하다

(1) Task를 함수로 정의

• `void* task (void* arg);`  → 모든 타입을 다루기 위해 type은 void pointer로 고정한다

(2) Thread 생성 함수

: 실제로 할 작업을 함수로 구현해서 `pthread_create()`에 function pointer로 전달한다

int pthread_create(pthread_t *restrict thread, 
					const pthread_attr_t *restrict attr,
					void *(*start_routine) (void*),
					void *restrict arg);

 

(3) Thread Join

: main에서 스레드가 종료되기를 기다리는 역할이다 (process 생성에서 Parent 프로세스의 wait와 비슷하다고 생각하면 쉽다)

• `int pthread_join(pthread_t thread, void **retval);`
  • `pthread_t thread` : 스레드 ID
  • `void **retval` : 스레드가 종료될 때 반환값이 이 곳이 가리키는 위치에 저장된다.

(4) Thread Termination(종료)

• `noreturn void pthread_exit(void *retval);`

---

(3) Example

예시 코드를 통해서 Pthreads의 동작을 직접 확인해보자

• `pthread_t tid` : `pthread_create()`할 때 초기화된다.
• create와 join 사이에 놀지 않고 다른 유용한 작업을 하고 스레드의 결과를 가져올 수도 있다.
• exit 할 때 들어오는 값 = join 할 때 들어오는 값 동일하다!
  • sum을 전역변수로 사용하지 않을 때 방법(위 그림에서 파랑색 글씨) : task function을 define할 때 pthread.exit()에 파라미터로 변수(sum)를 넣어주고, pthread_join()의 두 번째 파라미터에(그림에서는 NULL로 지정되어있음) 같은 변수(sum)를 넣어주면 스레드에서 작업한 내용이 반영되어 저장된다. 

---

7️⃣ Thread Cancellation

Cancellation = 스레드가 끝나기전에 종료하는 것

• `pthread_cacel(tid);` 로 할 수 있다.

cancellation에도 언제 종료되는지에 따라 3가지 종류가 있다

• Asynchronous : 즉시 종료
• deferred : 바로 종료되는 게 아니라, 뭔가 세이브포인트가 있을 수 있다.
  • 그것이 cancel되어야하는지 주기적으로 확인한다
  • `pthread_testcancel()` 에 도달해야만 cancel이 발생한다

주기적으로 확인한다는 것을 표현한 그림..

• Off : cancel 불가능. State가 Enabled될때가지 보류 상태로 남아있게 된다.

따라서 어느걸 쓸지 Mode를 미리 설정해둬야 한다!

•