전체기사 최신뉴스 GAM
KYD 디데이
홈 GAM 일반

속보

더보기

[GAM] 온디바이스 AI 시대 ① 손 안의 인공지능

기사입력 :

최종수정 :

※ 본문 글자 크기 조정

  • 더 작게
  • 작게
  • 보통
  • 크게
  • 더 크게

※ 번역할 언어 선택

생성형 AI에서 에지 AI로
기기에 직접 탑재되는 AI
2024년부터 거대한 트렌드

이 기사는 11월 30일 오후 3시37분 '해외 주식 투자의 도우미' GAM(Global Asset Management)에 출고된 프리미엄 기사입니다. GAM에서 회원 가입을 하면 9000여 해외 종목의 프리미엄 기사를 보실 수 있습니다.

[서울=뉴스핌] 황숙혜 기자 = 2023년 생성형 인공지능(AI)이 주도했던 지구촌 AI 시장이 2024년 온디바이스(on device) 시대를 맞을 전망이다.

클라우드 서버를 축으로 작동했던 AI 알고리즘이 말 그대로 개별 기기에서 작동한다는 것. 손 안의 AI 시대가 열리는 셈이다.

온디바이스 AI 기술을 업계에서는 에지 AI(Edge AI)라고 지칭한다. 사용자와 직접 접촉하는 하드웨어를 의미하는 에지 디바이스에 AI를 접목한 형태이기 때문이다.

월가에서는 차세대 AI로 기대를 모으는 에지 AI 시대를 주도할 유망주를 발굴, 포트폴리오에 적극 편입하는 움직임이다.

모간 스탠리는 투자 보고서를 내고 2024년 에지 AI가 거대한 트렌드를 형성할 것이라고 전망하고, 해당 기술을 확보하고 두각을 나타내는 종목들을 적극 매입할 것을 권고했다.

AI를 형상화한 이미지 [자료=블룸버그]

지금까지 AI 기술은 PC나 스마트폰, 태블릿, 스마트워치를 포함한 웨어러블 등 각종 기기에서 수집한 데이터를 클라우드 서버로 전송해 분석한 뒤 다시 기기로 내보내는 방식을 취했다.

반면 온디바이스 AI는 클라우드 서버를 거치지 않고 개별 스마트 기기가 자체적으로 정보를 수집하고 연산하는 기술을 의미한다.

온디바이스 AI 홍보물 [자료=마텔리오]

단말기 내부에서 모든 데이터를 처리하기 때문에 보다 빠른 AI 알고리즘 구동이 가능하다고 시장 전문가들은 설명한다.

뿐만 아니라 중앙 클라우드 서버를 거치지 않아도 되기 때문에 기존 클라우드 기반 AI의 대표적인 문제로 지목되는 보안 문제 역시 해결할 수 있어 온디바이스 AI의 선호도가 크게 상승할 전망이다.

업계 전문가들은 별도의 네트워크가 필요 없기 때문에 인터넷 연결이 어려운 상황에서도 실시간 번역과 같은 작업이 온다바이스 AI에서는 가능하다고 강조한다.

지금까지는 클라우드 서버가 AI의 두뇌 역할을 하는 한편 사용자와 접점을 이루는 스마트폰과 그 밖에 기기가 눈과 귀의 역할을 했는데 에지 AI의 경우 하드웨어에 직접 AI 알고리즘이 탑재되기 때문에 기기가 작동하는 환경을 본질적으로 파악하고 더욱 적절한 결정을 내릴 수 있도록 한다.

이처럼 온디바이스 AI는 클라우드 서버에 의존하는 AI에 비해 다양한 강점을 지녔을 뿐 아니라 스마트 기기를 이용하는 사람들의 일상에 커다란 변화를 가져올 전망이다.

딥러닝(deep learning)과 시스템 반도체 신경망처리장치(NPU, Neural Processing Unit) 등 최첨단 솔루션을 접목한 에지 AI가 훨씬 빨라진 연산을 수행하는 한편 식습관부터 운동량까지 하드웨어 이용자의 다양한 생활 습관을 직접 파악해 다양한 맞춤형 서비스를 제공하는 등 실생활과 AI가 한층 더 밀착할 것이라고 업계 전문가들은 예상한다.

개인용 스마트기기 이외에 냉장고와 청소기, 세탁기 등에 접목하는 사물인터넷(IoT)에도 에지 AI가 적용되면 말 그대로 삶이 달라진다고 과학자들은 입을 모은다.

모간 스탠리는 이번 보고서에서 "2023년 생성형 AI와 클라우드 GPU가 뜨거운 화두를 이뤘고, 이들 기술은 앞으로도 기존 머신러닝 트렌드의 핵심 축을 이룰 것"이라며 "하지만 AI가 소비자들의 일상 생활과 기업의 생산성에 보다 깊숙이 침투하려면 – 곧 그렇게 될 것으로 예상하는데 – 모든 작업이 소비자들의 손에서 작동하는 기기에 직접 작용해야 한다"고 설명했다.

이 같은 기술이 바로 에지 AI이며, 해당 기술이 본격적으로 작동하면 비용을 줄이고 시간을 단축시키는 등 커다란 이점이 발생한다고 모간 스탠리는 강조한다.

특히 비용 측면의 효과는 IT 업계의 집중 조명을 받고 있다. 기존의 데이터 센터의 경우 조회 한 건당 비용이 과거 인터넷 검색에 비해 10배 가량 높다.

클라우드가 분명 막강한 컴퓨팅 파워를 제공하지만 그 비용 역시 만만치 않다는 지적이다. 반면 에지 디바이스에서 추론 소프트웨어를 가동하는 데 발생하는 한계 비용(marginal cost)은 '제로'에 가깝다고 모간 스탠리는 강조한다.

이번 보고서는 쉽게 생각할 수 있는 실생활 속의 에지 AI 사례로 스마트폰의 안면 인식과 스마트 스피커의 음성 인식을 제시했다.

모간 스탠리는 "생성형 AI가 등장한 데 따라 보다 고차원적인 컴퓨팅을 실행하기 위한 각종 기기의 업그레이드가 가속화되고 있다"며 "이 같은 AI 주도의 유스 케이스(use case)가 일상 생활 속의 각종 디바이스에 접목될 것"이라고 내다봤다.

 

shhwang@newspim.com

[뉴스핌 베스트 기사]

사진
'청년버스킹 축제' 17일 오후 1시 한강공원서 개최 [서울=뉴스핌] 정태이 기자 = 선선한 가을바람이 부는 한강에서 청년 음악가들의 다채로운 공연과 시민 참여형 프로그램이 펼쳐진다. 감엔터테인먼트가 주최하고 서울특별시가 후원하는 '2026 한강 청년 버스킹 축제 : DAY OFF SEOUL'이 오는 17일 여의도한강공원 녹음수광장에서 열린다. 행사는 오후 1시부터 5시까지 진행되며 모든 공연과 체험 프로그램은 무료로 운영된다. [사진=감엔터테인먼트] 올해 축제는 '한강 위에서 하루를 통째로 쉬어가는 청년 문화 축제'를 주제로 마련된다. 음악과 피크닉, 한강, 가을을 결합해 누구나 부담 없이 즐길 수 있는 열린 문화 공간을 조성하고 시민 참여와 청년 예술가 발굴을 함께 꾀한다. 청년 예술가에게는 시민과 만나는 무대를, 시민에게는 일상에서 잠시 벗어나 문화와 휴식을 함께 즐길 수 있는 공간을 제공한다는 취지다. 축제의 중심은 청년 음악가들의 버스킹 무대다. 싱어송라이터 오디션 '히든스테이지' 출신의 김은찬밴드,신직선,윤태경,윤준,채수빈,심각한 개구리, 채비(Che!vee), 혼즈(Hon'z) 등 10팀이 참여해 각기 다른 장르와 개성을 담은 음악을 선보인다. [서울=뉴스핌] 정태이 기자 = '히든스테이지' 대상 심각한 개구리(위 왼쪽부터 시계방향으로), 최우수상 윤태경, 우수상 김은찬밴드. [사진=감엔터테인먼트] 2026.10.08 taeyi427@newspim.com 특히 지난 7일 열린 '히든스테이지' 결선에서 대상을 받은 심각한 개구리를 비롯해 최우수상 윤태경, 우수상 김은찬밴드 등 수상자들도 이번 축제를 통해 다시 관객들과 만난다. 경연 무대에서 실력을 겨룬 청년 음악가들이 이번에는 한강 야외 무대로 자리를 옮겨 시민들과 가까이에서 호흡할 예정이다. 청년 아티스트들의 공연에 더해 특별 초청 무대도 마련된다. 뉴올리언스 사운드를 기반으로 활동하는 컨템포러리 재즈밴드 '김루꾸밴드'와 국악·비보이·아크로바틱 등을 결합한 퍼포먼스팀 '라스트릿크루', 비트박서 잭브라이언(Jackbryan)이 무대에 올라 축제의 볼거리를 더한다. 싱어송라이터들의 음악부터 재즈와 퍼포먼스, 비트박스까지 서로 다른 장르의 무대를 한자리에서 만나볼 수 있다. [서울=뉴스핌] 정태이 기자 = 사진 위쪽부터 라스트릿크루, 김루꾸밴드, 비트박서 잭브라이언(Jackbryan). [사진=감엔터테인먼트] 2026.10.08 taeyi427@newspim.com 시민도 직접 무대의 주인공이 될 수 있다. '시민과 함께하는 버스킹' 참가 희망자는 축제 공식 홈페이지를 통해 사전 신청할 수 있으며 개인 또는 팀 단위로 지원 가능하다. 신청자의 자기소개와 활동 경력, 희망 공연곡과 장르, 공연 영상 등을 종합적으로 검토해 참가자를 선정한다. 선정된 참가자는 '시민과 함께하는 버스킹' 무대에 참여하게 된다. 청년 뮤지션의 공연과 함께 시민에게도 직접 무대에 참여할 기회를 제공한다. 무대 밖에서는 공연과 함께 즐길 수 있는 체험 프로그램이 이어진다. '서울의 향을 찾아서'에서는 서울을 대표하는 핫플레이스 이미지를 향으로 구현해 시향한 뒤 원하는 향료를 더해 자신만의 맞춤 향수를 만들 수 있다. 여러 향을 직접 맡아보고 취향에 맞게 조합해 결과물을 만드는 방식이다. '한강 포토 스테이션'에서는 축제 현장의 즐거운 순간을 간직할 수 있도록 즉석 사진 인화 부스 '한강로 사진관'을 운영한다. 현장에서 촬영한 사진을 인화해 축제의 순간을 기록할 수 있도록 마련했다. [서울=뉴스핌] 정태이 기자 = 한강 포토 스테이션 [사진=감엔터테인먼트] 2026.10.08 taeyi427@newspim.com 음악과 한강의 풍경, 청춘에게 전하고 싶은 문장을 엽서에 적어 남기는 참여형 아카이브 프로그램 '한강 사운드 엽서'도 준비된다. 공연 관람에 더해 향수 제작과 사진, 엽서 등 다양한 방식으로 축제를 즐길 수 있도록 구성했다. 주최 측은 "청년 음악가들이 시민과 가까이에서 소통하고, 시민들도 공연과 체험에 직접 참여할 수 있는 축제를 준비하고 있다"며 "가을 한강에서 음악과 휴식을 함께 즐기는 특별한 하루가 되길 바란다"고 말했다. taeyi427@newspim.com 2026-10-13 06:33
사진
GPU 없는 내 PC서 초대형 AI 돌린다 [뉴욕=뉴스핌] 김민정 특파원 = 애플과 메타플랫폼스가 인공지능(AI)에서 손을 잡았다. 보통 데이터센터 기반 클라우드에서 돌아가는 AI 모델을 개인 컴퓨터에서 직접 돌리는 방식이다. 애플과 메타는 15일(현지시간) 메타의 새 오픈웨이트 모델 '뮤즈 스파크 오픈'을 애플 고성능 데스크톱에서 구동하는 협업을 공개했다. 파라미터가 8160억 개에 이르는 대형 모델이다. 파라미터는 AI가 학습한 내용을 저장하는 단위로, 많을수록 모델이 크고 성능도 높은 편이다. 맥스튜디오 2~4대를 연결하면 코딩이나 영상 분석 같은 작업을 맡길 수 있다. 마크 저커버그 메타 최고경영자(CEO)는 엑스(X)에 맥에서 돌아가는 메타 에이전트 화면을 올리고 "뮤즈 스파크 오픈이 존 터너스(애플 CEO)와 애플의 작업 덕분에 새 맥스튜디오에서 훌륭하게 돌아간다"고 적었다. 터너스 CEO는 "이 정도 수준과 규모의 모델을 책상에서 바로 이렇게 효율적으로 돌릴 수 있다니 놀랍다"고 답했다. 핵심은 모델이 클라우드가 아니라 내 컴퓨터 안에서 돌아간다는 점이다. 지금까지 AI를 쓰려면 대형 데이터센터에 깔린 엔비디아 그래픽처리장치(GPU)를 빌려 써야 했다. 맥스튜디오에서 대형 모델을 돌릴 수 있다는 것은 애플 칩이 그 대안이 될 수 있다는 신호다. CNBC는 이번 협업이 "AI 칩 시장에서 애플의 힘이 커지고 있음을 시사할 수 있다"고 분석했다. 애플은 이번에 자사 칩의 성능 측정 결과를 새로 공개하고, 하나의 AI 모델을 여러 대의 컴퓨터에 나눠 돌리는 기술 문서도 내놨다. 자체 소프트웨어 도구인 MLX를 통해서다. 개발자는 허깅페이스 같은 사이트에서 복잡한 설정 없이 애플용 모델을 내려받을 수 있다. 뮤즈 스파크 오픈은 애플 기기에서 더 빠르게 작동하도록 조정됐다. 오픈웨이트 모델은 AI가 학습한 결과물이 공개돼 누구나 내려받아 자기 기기에서 돌릴 수 있는 모델이다. 메타는 뮤즈 스파크 오픈이 상업적 이용을 일부 허용하는 조건으로 공개된 모델 가운데 가장 뛰어나다고 강조했다. CNBC는 이번 조치가 "메타의 재편된 AI 노력에 대한 중요한 신뢰의 표시이며 오픈AI와 앤스로픽에 도전이 될 수 있다"고 평가했다. 마크 저커버그 메타플랫폼스 최고경영자(CEO)가 15일(현지시간) 애플 맥(Mac) 스튜디오에서 돌아가는 메타 에이전트 화면을 소셜미디어 X에 올렸다.[저커버그 CEO X 게시물 캡처] 2026.10.16 mj72284@newspim.com mj72284@newspim.com 2026-10-16 04:09
기사 번역
결과물 출력을 준비하고 있어요.
종목 추적기

S&P 500 기업 중 기사 내용이 영향을 줄 종목 추적

결과물 출력을 준비하고 있어요.

긍정 영향 종목

  • Lockheed Martin Corp. Industrials
    우크라이나 안보 지원 강화 기대감으로 방산 수요 증가 직접적. 미·러 긴장 완화 불확실성 속에서도 방위산업 매출 안정성 강화 예상됨.

부정 영향 종목

  • Caterpillar Inc. Industrials
    우크라이나 전쟁 장기화 시 건설 및 중장비 수요 불확실성 직접적. 글로벌 인프라 투자 지연으로 매출 성장 둔화 가능성 있음.
이 내용에 포함된 데이터와 의견은 뉴스핌 AI가 분석한 결과입니다. 정보 제공 목적으로만 작성되었으며, 특정 종목 매매를 권유하지 않습니다. 투자 판단 및 결과에 대한 책임은 투자자 본인에게 있습니다. 주식 투자는 원금 손실 가능성이 있으므로, 투자 전 충분한 조사와 전문가 상담을 권장합니다.
안다쇼핑
Top으로 이동