Near-Memory processing vs In-Memory processing

본 포스팅은 향후 장기적으로 진행될 Processing In Memory 연구의 Base line을 위해 정리한 내용입니다.

---

Introduction

 

• PIM이 왜 중요한가?

 대한민국 정부에서는 인공지능 반도체 선도국가 도약을 위한 초격차 기술 중 하나로 Processing-In Memory(PIM)을 선정하였습니다. 대한민국 뿐 만 아니라 많은 국가의 일류 반도체 기업과 학계에서는 PIM을 주목하고 있는데, 그 이유는 무엇일까요? 일반적으로 컴퓨터에서 가장 중요한 두 가지를 고르라고 한다면 연산을 처리하는 Processing unit과, 처리할 연산 정보를 가져오고 다시 저장하는 공간인 Memory를 선택할 것입니다. 컴퓨터와 반도체 기술이 지금처럼 발달하기 전에는 연산을 처리하는 Processing unit 자체의 성능 혹은 Memory 자체의 성능에 의해 전체 시스템 성능이 좌지우지 되었지만, 이 둘의 기술이 극도로 발전함에 따라 이 두 장치 사이에서 발생하는 데이터의 이동이 시스템 전체 성능에 큰 영향을 미치게 되었습니다. 또한 AI기술의 발달로 정말 많은 양의 데이터 이동이 필요해졌으며, 엄청난 양의 데이터 이동은 곧 큰 전력소모로 이어지기 때문에, 저전력 고효율 환경을 구축해야 하는 서버 등에서 새로운 아키텍쳐의 도입의 필요성이 제기되었습니다. PIM은 이런 상황을 타파할 수 있는 대안 중 하나로 제시되었으며, 현재 산업계와 학계에서 정말 활발히 연구되고 있는 분야 중 하나입니다. PIM이란 Processing-In Memory의 약자로 메모리와 연산 처리 장치를 매우 가까운 위치, 혹은 동일한 공간 상에 위치 시켜 두 장치간 데이터 이동으로 발생하는 오버헤드 및 전력 소비를 획기적으로 줄이는 기술입니다. 저는 본 기술이 앞으로 대한민국 반도체 기술을 선도할 수 있는 핵심 기술이 될 것이라 판단하였고 석사 연구 프로젝트의 주제로 PIM을 선택하였습니다. PIM 기술을 선도하기 위해서는 근본적으로 차세대 메모리 기술이 필수적입니다. 대한민국 정부가 본 기술에 더욱 주목하는 이유는 바로 차세대 메모리 반도체를 만들 수 있는 기업이 우리나라에 두 군데나 있기 때문입니다. (삼*전자, S*하이닉스) 

• PIM 연구를 진행하기 전 정립해야할 개념

 어떤 연구든 정확한 표현의 모호함과 적합한 용어 사용 아주 중요, PIM처럼 최근 활발하게 연구가 시작되는 분야는 더욱이 중요함 그래서 용어 사용과 관련하여 확실한 정립이 선행되어야 함 => Near Memory computing, In Memory computing ~~

• Near-Memory computing과 In-Memory computing을 구분해야 하는 이유는 무엇인가?

 그림 제작하여 예시로 설명하고 표 및 비교 자료를 첨부하여 상세하고 명확하게 설명

______________________(작성중 22.06.27)___________________________

I. Near-Memory processing

 

II. In-Memory processing

 

+ Optimizing / Generel purpose 

 

Reference

[1] Khoram, S., Zha, Y., Zhang, J., & Li, J. (2017, March). Challenges and opportunities: From near-memory computing to in-memory computing. In Proceedings of the 2017 ACM on International Symposium on Physical Design (pp. 43-46).

[2] 한국과학기술기획평가원, ｢2020년도 예비타당성조사 보고서 PIM 인공지능반도체 핵심기술 개발사업｣