AI가 메모리를 많이 사용하는 이유가

이전 컴터는 실행프로그램이 대부분 램에 상주하게 되고, 데이타는 매우 적으며 램에 상주된 프로그램 자체도 여러 기능으로 분할해서 SSD나 HDD에서 필요할 때 다시 램으로 불러 오면 되는 데, AI는 일단 데이타가 어마어마하고 순간 가공하는 데이타 양도 고전 PC와는 비교가 안될 정도로 많으며 그 많은 데이터를 GPU가 계속 가공하면서 중간 데이타를 생성시켜서 최종적인 결과물을 만드는 과정이라서, HDD나 SSD에 저장해 놓고 프로세싱을 하면 못쓸 만큼 속도가 저하 되어 버려요. 프로그램과 데이타를 모두 램드라이브에 올려 놓고 돌린다고 생각하면 얼추 비슷합니다. 현재 램을 대체하는 방법은 HBF(고성능 SSD)인데 이게 순차액세스 데이터는 전송률은 올릴 수 있지만 랜덤 엑세스 타임은 램과 비교하면 상대가 안…