ComSys_jh

NVIDIA GPU Architectures NVIDIA GPU의 Architecture는 세대를 거듭하며 빠른 속도로 발전해 왔습니다. 과거 그래픽 처리를 주 목적으로 했던 GPU에서 벗어나, 현재 (2022년) 전 세계 인공지능 반도체 시장을 선도하고 있는 NVIDIA GPU의 발자취를 따라가보며, GPU의 Architecture가 어떻게 발전되어 왔는지 정리해보려 합니다. (본 포스팅은 Instruction이 수행되는 Streaming Multiprocessor를 중심으로 정리하였습니다.) GPU는 인공지능 분야가 발전함에 따라 많은 양의 데이터를 병렬로 빠르게 처리하기 위하여 도입되었습니다. Throughput 기반의 Architecture라 불리는 GPU는 현재 높은 처리량이라는 강력한 장점을 ..

Introduction GPU(Graphics proccessing unit)는 그래픽 연산을 빠르게 처리하기 위해 고안된 그래픽 처리 장치입니다. 이 용어는 1999년 NVIDIA사에서 'geforce 256 model'을 발표하며 처음 사용하기 시작했으며 현재는 다양한 Data sets를 병렬로 처리해야하는 인공지능 연산 분야에서 그 사용성이 입증되며 광범위한 분야로 확장되고 있습니다. NVIDIA는 이런 GPU의 범용성을 인지하고 GPU를 단순히 그래픽 연산을 처리하기 위한 장치가 아닌, CPU처럼 'General Purpose(범용적)'으로 사용하기 위해 많은 공을 들였습니다. 또한 C, C++와 같은 고급 언어로 프로그래밍할 수 있도록 *CUDA라는 병렬 컴퓨팅 플랫폼을 세상에 공개했습니다. C..

경로 탐색 DNN => 차량 주행 위치를 결정하고 전방의 주행 가능한 경로 계획 1) OpenRoadNet : 차선 또는 인접 차선에 관계 없이 차량 주변의 모든 주행 가능 공간 식별 2) PathNet : 차선 표시가 없는 경우에도 차량 전반의 주행 가능 경로 표시 3) LaneNet : 차선과 차선 경로를 정의하는 다른 표식들 감지 4) MapNet : 차선과 고화질 지도를 업데이트하고 만드는데 사용할 수 있는 랜드마크 식별 객체 탐색 및 분류 DNN => 신호등과 도로 표지판, 잠재적인 장애물을 감지 1) DriveNet : 도로의 다른 차량, 보행자, 신호등, 도로 표지판 인지 (종류는 인지X, 종류만 인지) 2) LightNet : 신호등의 상태를 빨간색, 노란색, 초록색으로 분류 3) Sign..

출처 : Jeong, Eun Jin, et al. "Deep Learning Inference Parallelization on Heterogeneous Processors with TensorRT." IEEE Embedded Systems Letters (2021). 본 논문은 향후 진행할 AD(Auto Driving) 프로젝트의 연구 방향에 대한 유관 연구 조사로 읽었기 때문에 방법에 대한 이야기는 빼고 문제 상황과 연구 방향 등에 초점을 맞춰 요약하였습니다. Abstract: 임베디드 디바이스에서 Deep Learning Application의 사용이 증가함에 따라 디바이스는 CPU와 GPU 외에 NPU(Neural Processing units)라는 새로운 연산 unit을 도입하게 되었습니다. 빠..

Jihak.lee Notion Link : https://gigantic-radio-6d0.notion.site/Profile-0c4a2f2c3f254ae08e2f4b335835e118 안녕하세요! 제 블로그에 방문하신 모든 분들 환영합니다 :) 저는 현재 성균관대학교 전자전기공학부에 학사로 재학중이며, Computer Science & System Software 관련 Lab에서 프로젝트를 진행 중에 있습니다. 연구와 프로젝트를 하며 공부하는 내용을 기록하고 여러 사람들과 공유하고 싶다는 생각이 들어 블로그를 열게 되었습니다. 부족한 점이 많겠지만 서로 소통하며 함께 성장하는 기회가 되었으면 좋겠습니다. 제 관심 분야는 #PIM #GPU #Auto_Driving #CUDA #AI_Hardware #AI..