[OS] 캐시 메모리(Cache Memory)란? 캐시의 지역성(Locality)이란?

캐시 메모리(Cache Memory)

• 주기억장치에서 자주 사용하는 프로그램과 데이터를 저장해두어 속도를 빠르게 하는 메모리
  • 그러므로 캐시는 주기억장치보다 크기가 작을 수밖에 없다!
  • 캐시 기억장치와 주기억장치 사이에서 정보를 옮기는 것을 사상(Mapping, 매핑)이라고 함
    • 매핑의 3가지 방법
      - 직접 매핑(Direct Mapping), 연관 매핑(Associate Mapping), 집합 연관 매핑(Set Associate Mapping)
• 속도가 빠른 장치와 느린 장치간의 속도 차에 따른 병목현상을 줄이기 위한 범용 메모리
  • 이를 위해서는 CPU가 어떤 데이터를 원하는지 어느 정도 예측할 수 있어야 한다.
  • 캐시 메모리에 CPU가 이후에 참조할, 필요 있는 정보가 어느 정도 들어있느냐에 따라 캐시의 성능이 좌우되기 때문
• 주기억장치와 CPU사이에 위치
• 메모리 계층 구조에서 가장 빠른 소자이며, 처리속도가 거의 CPU의 속도와 비슷할 정도의 속도를 가지고 있다.
• 캐시메모리를 사용하면 주 기억장치를 접근하는 횟수가 줄어들어 컴퓨터의 처리속도가 향상
• 캐시의 크기는 보통 수십 KByte ~ 수백 KByte

 

동적 CPU 메모리 캐시 그림

 

---

 

캐시(Cache)의 지역성(Locality)

• 캐시가 효율적으로 동작하려면, 캐시의 적중율(Hit-rate)를 극대화 시켜야 한다.
• 캐시에 저장할 데이터가 지역성(Locality)을 가져야 한다.
• 지역성이란, 데이터 접근이 시간적, 혹은 공간적으로 가깝게 일어나는 것을 의미한다.
• 지역성의 전제 조건으로 프로그램은 모든 코드나 데이터를 균등하게 Access하지 않는다는 특성을 기본으로 한다.
• 즉, 지역성(Locality)이란
  • 기억장치 내의 정보를 균일하게 Access하는 것이 아닌 어느 한 순간에 특정 부분을 집중적으로 참조하는 특성이다.

 

---

지역성(Locality)의 종류

시간적 지역성

• 특정 데이터가 한번 접근되었을 경우, 가까운 미래에 또 한번 데이터에 접근할 가능성이 높은 것
• 메모리 상의 같은 주소에 여러 차례 읽기 쓰기를 수행할 경우,
  • 상대적으로 작은 크기의 캐시를 사용해도 효율성을 꾀할 수 있다.

공간적 지역성

• 특정 데이터와 가까운 주소가 순서대로 접근되었을 경우.
• CPU 캐시나 디스크 캐시의 경우 한 메모리 주소에 접근할 때 그 주소뿐 아니라 해당 블록을 전부 캐시에 가져오게 된다.
• 이때 메모리 주소를 오름차순이나 내림차순으로 접근한다면,
  • 캐시에 이미 저장된 같은 블록의 데이터를 접근하게 되므로 캐시의 효율성이 크게 향상된다.

 

---

캐시 메모리의 매핑 프로세스(Mapping Process)

매핑 프로세스는 주기억장치로부터 캐시 메모리로 데이터를 전송하는 방법으로 3가지 방법이 있다.

• 직접 매핑(direct Mapping)
  • 주기억장치의 블록들이 지정된 한 개의 캐시 라인으로만 사상될 수 있는 매핑 방법.
  • 간단하고 구현하는 비용이 적게드는 장점이 있지만 적중률이 낮아질 수 있다는 단점이 있다.
• 어소시에이티브 매핑(Associative Mapping)
  • 직접 매핑 방식의 단점을 보완한 방식.
  • 모든 태그들을 병렬로 검사하기 때문에 복잡하고 비용이 높다는 단점이 있어 거의 사용하지 않는다.
• 세트-어소시에이티브 매핑(Set-Associative Mapping)
  • 직접 매핑과 연관 매핑의 장점만을 취한 방식.