[Effective Java] Item84. 프로그램의 동작을 스레드 스케줄러에 기대지 말라!

Item84. 프로그램의 동작을 스레드 스케줄러에 기대지 말라!

Intro

• 여러 스레드가 실행 중이면 운영체제의 스레드 스케줄러가 어떤 스레드를 얼마나 오래 실행할지 정한다.
• 정상적인 운영체제라면 이 작업을 공정하게 수행한다. 다만 구체적인 스케줄링 정책은 운영체제마다 다를 수 있다.
• 따라서, 잘 작성된 프로그램이라면 이 정책에 좌지우지돼서는 안 된다.
• 정확성이나 성능이 스레드 스케줄러에 따라 달라지는 프로그램이라면 다른 플랫폼에 이식하기 어렵다.

건고하고 빠르고 이식성 좋은 프로그램 작성 방법

• 실행 가능한 스레드의 평균적인 수를 프로세서 수보다 지나치게 많아지지 않도록 하는 것이다.
  • 그래야 스레드 스케줄러의 고민거리가 줄어들 것이다.
• 실행 준비가 된 스레드들은 맡은 작업을 완료할 때까지 계속 실행되도록 만들자.
  • 이런 프로그램이라면 스레드 스케줄링 정책이 상이하더라도 동작이 크게 달라지지 않을 것이다.

실행 가능한 스레드 수를 적게 유지하는 주요 기법

• 각 스레드가 무언가 유용한 작업을 완료한 후, 다음 일거리가 생길 때까지 대기하도록 하는 것.

  • 스레드는 당장 처리해야 할 작업이 없다면 실행돼서는 안 된다.
  • 예시, 실행자 프레임워크
    • 스레드 풀 크기를 적절히 설정하고, 작업은 짧게 유지한다. (단, 너무 짧으면 작업을 분배하는 부담이 오히려 커질 수 있다)

• 스레드는 절대 바쁜 대기(busy waiting) 상태가 되면 안 된다.

  • 공유 객체의 상태가 바뀔 때까지 쉬지 않고 검사해서는 안 된다는 뜻이다.

  • 바쁜 대기는 스레드 스케줄러의 변덕에 취약할 뿐 아니라, 프로세서에 큰 부담을 주어 다른 유용한 작업의 실행 기회를 박탈한다.

  • 아래는 바쁜 대기를 하는 CountDownLatch의 삐닥하게 구현한 예시다.

    public class SlowCountDownLatch {
      privateint count;
        
      public SlowCountDownLatch(int count) {
        if (count < 0)
          throw new IllegalArgumentException(count + " < 0");
        this.count = count;
      }
        
      public void await() { // busy wait
        while (true) {
          synchronized(this) {
            if (count == 0) return;
          }
        }
      }
        
      public synchronized void countDown() {
        if count != 0)
          count--;
      }
    }
    

    • 자바의 CountDownLatch와 비교해, 약 10배 느리다.
    • 이런 시스템은 성능과 이식성이 떨어질 수 있다.

주의할 점

• Thread.yield를 써서 문제를 고쳐보려는 유혹을 떨쳐내자.
  • 특정 스레드가 다른 스레드들과 비교해 CPU 시간을 충분히 얻지 못해서 간신히 돌아가는 프로그램을 보더라도 Thread.yield를 써서 문제를 고쳐보려는 시도를 하지 말자. 어느 정도 증상이 호전될 수도 있지만 이식성은 굉장히 나빠진다. 또 Thread.yield는 테스트할 수단도 없다. 차라리 애플리케이션 구조를 바꿔 동시 실행 가능한 스레드 수가 적어지도록 조치하자.
• 스레드의 우선순위를 사용하지 말자.
  • 위와 같은 상황에서 스레드 우선순위를 조정하는 방법도 있을 것이다. 여기서 우리는 스레드 우선순위는 자바에서 이식성이 가장 나쁜 특성에 속한다는 것을 알아두어야 한다. 스레드 몇 개의 우선순위를 조율해서 애플리케이션의 반응 속도를 높이는 것이 좋을 수도 있으나, 이식성은 굉장히 나빠진다. 그러니 이런 응답 불가 문제를 스레드 우선순위로 해결하려는 시도는 하지 말자.

핵심 정리

• 프로그램의 동작을 스레드 스케줄러에 기대지 말자.
  • 견고성과 이식성을 모두 해치는 행위이기 때문이다.
• 같은 이유로, Thread.yield와 스레드 우선순위에 의존하지도 말자.
  • 이 기능들은 스레드 스케줄러에 제공하는 힌트일 뿐이다.
• 스레드 우선순위는 이미 잘 동작하는 프로그램의 서비스 품질 향상을 위해 드물게 쓰일 수도 있다. 하지만 간신히 동작하는 프로그램에서 이를 고치는 용도로 사용하는 것은 절대 하지 말아야할 행위다.