전체기사 최신뉴스 GAM
KYD 디데이
산업 전기·전자

속보

더보기

'AI·데이터센터·HPC 최적화'…삼성·SK, 지능형 메모리 'PIM' 상용화 박차

기사입력 : 2024년09월25일 14:53

최종수정 : 2024년09월25일 14:53

삼성전자 'HBM-PIM' 최초 개발…AMD GPU 'MI-100' 가속기 카드에 탑재
SK하이닉스, LLM 특화된 'AiMX' 개발…'라마3 70B' 활용해 성능 시연도

[서울=뉴스핌] 김정인 기자 = 인공지능(AI) 시대가 도래하면서 데이터 처리 속도와 전력 효율이 중요해진 가운데 '프로세스 인 메모리(PIM)' 기술이 주목받고 있다. 삼성전자와 SK하이닉스는 PIM을 '차세대 AI 솔루션'으로 삼고 기술 개발에 박차를 가하고 있다.

◆ PIM, 데이터 처리 속도와 전력 효율 극대화

25일 업계에 따르면 삼성전자와 SK하이닉스는 현재 PIM 기술을 AI, 데이터센터, 고성능컴퓨팅(HPC) 분야를 대상으로 시험적 적용을 실시하고 있다. 양사는 테스트를 통해 기술 안정성이 입증되면 본격적으로 상용화를 시작할 전망이다.

PIM은 데이터가 저장된 메모리 자체에서 데이터를 처리해, CPU와 메모리 간의 불필요한 데이터 이동을 줄이고 처리 속도를 높이는 기술이다. 즉, 메모리 내에 간단한 연산 유닛을 두고 데이터를 처리한 후에 그 결과만을 CPU에 전달하거나, 아예 필요한 연산을 메모리 내에서 끝내버리는 방식이다. 이렇게 하면 병목 현상을 줄이고, 전력 효율성을 크게 향상시킬 수 있다.

삼성전자와 SK하이닉스는 PIM을 '차세대 AI 솔루션'으로 삼고 기술 개발에 힘을 쏟고 있다. 사진은 MS코파일럿이 시각화한 PIM 솔루션의 모습. [사진=MS코파일럿]

PIM은 특히 대량의 데이터를 빠르게 처리해야 하는 AI 연산, 딥러닝, 데이터베이스 처리 등의 분야에서 큰 이점을 가지고 있다. 이러한 응용 분야에서는 데이터의 이동보다 처리 자체가 중요한데, PIM은 이를 효율적으로 수행할 수 있다.

◆ HBM, GDDR6 등 다양한 제품군에 탑재…AI, HPC, 데이터센터 테스트 진행

삼성전자와 SK하이닉스는 PIM 기술 개발에서도 활발한 연구를 이어가고 있다.

삼성전자는 2021년 D램을 여러 겹으로 쌓는 AI가속기용 메모리 반도체인 고대역폭메모리(HBM)에 PIM을 결합한 HBM-PIM을 업계 최초로 개발했다. HBM-PIM은 기존의 HBM 인터페이스와 호환성을 유지하면서, 연산 기능을 추가해 기존 시스템에 쉽게 통합될 수 있다는 장점이 있다. 이를 통해 다양한 시스템에서 쉽게 적용될 수 있다. 현재는 다양한 고객들과 협력해 HBM-PIM 기술을 시험하고, AI와 HPC 분야에서 실질적인 성능 향상을 확인하는 단계다.

또 2022년에는 HBM3 기반 PIM 개발을 마쳤다. 지난해에는 AMD의 GPU인 'MI-100' 가속기 카드에 HBM-PIM 메모리를 탑재하기도 했다. 또 LPDDR5 및 GDDR6 메모리에도 PIM 기능을 확장해 모바일 기기나 그래픽 처리 장치에서도 PIM 기술을 활용할 수 있도록 개발 중이다.

SK하이닉스는 2022년 처음으로 PIM 개발 성과와 해당 기술이 적용된 첫 제품인 'GDDR6-AiM'을 선보였다. 이 기술은 고속 메모리인 GDDR6에 PIM 기능을 추가해 메모리 내에서 연산을 처리함으로써 데이터 전송 병목을 줄이고 성능과 전력 효율성을 향상시키는 데 중점을 뒀다.

지난해엔 AI 연산 가속을 위한 메모리 솔루션 'AiMX'을 개발했다. 이는 AiMX는 GDDR6-AiM 여러 개를 탑재한 PCle 가속기 카드 형태의 솔루션으로 대규모언어모델(LLM)에 특화된 가속기 카드 제품이다. 회사는 이달 초 미국 캘리포니아주 새너제이에서 열린 'AI 하드웨어 & 엣지 AI 서밋 2024'에서 최신 LLM인 '라마(Llama)3 70B'를 활용해 AiMX의 성능을 시연하기도 했다.

kji01@newspim.com

[뉴스핌 베스트 기사]

사진
오늘 낮 최고기온 33도 무더위 [서울=뉴스핌] 최수아 인턴기자 = 월요일인 9일은 낮 기온이 최고 33도까지 오르는 무더운 날이 되겠다. 전국이 대체로 흐리다가 오후부터 맑아지겠다.  기상청에 따르면 이날 아침 최저기온은 18~21도, 낮 최고기온은 25~33도가 되겠다. 일부 경기내륙과 충청권내륙, 경상권내륙을 중심으로 최고 체감온도가 31도 이상으로 올라 덥겠다.  [서울=뉴스핌] 윤창빈 기자 = 무더운 날씨를 보인 6일 오후 서울 중구 청계천에서 시민들이 양산을 쓰고 이동하고 있다. 2025.06.08 pangbin@newspim.com 이날 오전까지 경기북서내륙과 서해안, 남해안을 중심으로 짙은 안개가 끼는 곳이 있겠다. 해안에 위치한 교량과 강이나 호수, 골짜기에 인접한 도로에는 안개가 더욱 짙게 끼겠으니 유의해야 한다.  주요 지역별 아침 최저기온은 ▲서울 20도 ▲인천 19도 ▲수원 19도 ▲춘천 18도 ▲강릉 20도 ▲청주 21도 ▲대전 20도 ▲전주 21도 ▲광주 20도 ▲대구 20도 ▲부산 20도 ▲울산 18도 ▲제주 19도다. 낮 최고기온은 ▲서울 30도 ▲인천 26도 ▲수원 29도 ▲춘천 30도 ▲강릉 28도 ▲청주 31도 ▲대전 31도 ▲전주 31도 ▲광주 31도 ▲대구 31도 ▲부산 25도 ▲울산 27도 ▲제주 25도이다. 미세먼지는 전 권역이 '좋음'∼'보통'으로 예상된다. 바다의 물결은 동해와 남해 앞바다에서 0.5~1.0m, 서해 앞바다에서 0.5m로 일겠다.  geulmal@newspim.com 2025-06-09 06:30
사진
민정수석에 검찰 출신 오광수 변호사 [서울=뉴스핌] 유신모 외교전문기자 = 이재명 대통령은 8일 검찰개혁 과제를 수행할 민정수석으로 검찰 특수부 출신의 오광수 법무법인 대륙아주 대표변호사(사법연수원 18기)를 임명했다. 오 수석은 제28회 사법고시에 합격해 사법연수원 18기를 수료했다. 이 대통령, 더불어민주당 정성호 의원 등과 동기다. 26년 동안 검찰에 재직한 특수통으로 꼽힌다. 오광수 대통령실 민정수석비서관 [사진=대통령실] 오 수석은 부산지검에서 첫 근무를 시작해 대전·서울·수원지검을 거쳐 1999년 대검 검찰연구관을 역임했다. 2001년 부부장검사로 승진해 제19대 광주지검 해남지청장을 지냈으며 서울지검 부부장검사, 인천지검 특수부 부장검사, 대검찰청 중수2과장, 서울중앙지검 특수2부 부장검사 등 요직을 두루 거쳤다. 2012년부터는 대구·청주에서 검사장을 지낸 뒤 2015년 법무부 범죄예방정책국장 근무를 끝으로 26년 간의 검찰공무원 생활을 마무리했다. 2020년부터는 법무법인 대륙아주의 대표 변호사로 활동해왔다. 검찰 재직 시 김우중 대우그룹 회장 분식회계 사건, 한보그룹 분식회계 사건, 김영삼 전 대통령의 차남 김현철 씨 비리사건, 마우나 리조트 붕괴사건 등 굵직한 사건을 수사했다. 여권 일각에서 당초 오 수석이 검찰 개혁을 추진할 적임자인지 의문이라는 우려가 제기되기도 했다. 윤석열 전 대통령과 같은 특수부 검사출신인데다 2013년 박성재 전 법무부 장관이 대구고검장으로 재직할 당시 대구지검장을 지낸 이력 때문이었다. 강훈식 대통령실 비서실장은 이 같은 우려에 대해 "이 대통령은 정치 검찰의 가장 큰 피해자"라며 "오 수석의 사법 개혁 의지도 확인했다. 일부 우려하신 분들 걱정 없도록 하겠다"고 밝혔다. ▲1960년 전북 남원 ▲전주고 ▲성균관대 법학 학사 ▲성균관대 대학원 공법 박사 ▲사시 28회 ▲사법연수원 18기 ▲광주지검 해남지청장 ▲인천지검 특수부 부장검사 ▲대검 중수2과 과장 ▲서울중앙지검 특수2부 부장검사 ▲대전지검 서산지청장 ▲수원지검 안산지청장 ▲청주지검장 ▲대구지검장 ▲법무부 범죄예방정책국장 ▲법무법인 대륙아주 대표변호사 ▲성균관대 법학전문대학원 객원교수 opento@newspim.com 2025-06-08 11:15
안다쇼핑
Top으로 이동