온디바이스 AI
삼성전자가 새로운 스마트폰 모델인 겔럭시 S24을 출시하면서 온디바이스 AI에 대한 관심이 높아지고 있습니다. 애플도 '온디바이스 AI' 아바타·LLM 기술 공개 하면서 본격적인 소비자 시장에 접목되는 형태를 보여주고 있습니다.
삼성의 경우 새로은 갤럭시 S24모델을 통하여 통화 중 ‘실시간 통역(Live Translate)’ 기능을 소개하였고, 애플의 경우 30분 만에 짧은 비디오에서 3D 아바타 애니메이션을 생성할 수 있는 생성 AI 기술 ‘헉스(HUGS)’ 를 소개했습니다. 또한 이번에 OS업데이트를 통해 일기장 AI어플을 출시하기도 하였습니다.
인공지능(AI, Artificial Intelligence)
4차 산업혁명 시대가 도래하면서 인간처럼 학습하고 추론하는 인공지능(AI, Artificial Intelligence)에 대한 관심이 높습니다. 특히 앞으로는 스마트폰을 넘어서 로봇청소기, 세탁기, 냉장고 등의 사물인터넷까지 광범위하게 AI 기술 적용이 가능해진다고 하는데요.
차세대 딥러닝(Deep Learning)기술로 새롭게 주목 받고 있는 ‘온디바이스(On-Device) AI’에 대해 자세히 알아보겠습니다.
인공지능(AI) 기술은 모바일 등 스마트기기에서 수집한 정보를 중앙 클라우드 서버로 전송해 분석하고 다시 기기에 보내는 방식으로 진행되어 왔습니다.
이와 달리 온디바이스(On-device) AI는 이름 그대로 멀리 떨어진 클라우드 서버를 거치지 않고 스마트기기 자체적으로 정보를 수집하고 연산할 수 있습니다. 물론 그만큼의 하드웨어적인 성능이 뒷받침 되어야 합니다.
이렇듯 온디바이스 AI는 단말 기기 내부에서 정보를 처리하기 때문에 저지연을 통한 빠른 작업이 가능해지고, 개인 데이터 보안 등의 프라이버스도 강화되어 집니다.
중앙 서버를 통하지 않기 때문에 클라우드 기반 AI의 문제점으로 대두되었던 보안 문제도 해결할 수 있는데요.
또한 별도의 네트워크가 필요 없기 때문에 인터넷 연결이 어려운 상황에서도 실시간 번역과 같은 작업이 가능합니다. 이번에 출시한 S24모델에서 강조한 사용자 기능중의 하나이기도 합니다.
엣지(Edge) 디바이스와 인공지능의 만남
On-Device AI
기존에는 클라우드 서버가 정보를 처리하는 뇌라면 휴대폰이나 태블릿 PC 등은 사용자와 접점을 이뤄 정보를 수집하는 눈과 귀와 같은 역할을 담당해왔습니다. 하지만 이러한 처리 방식은 멀리 떨어져 있는 인공지능이 실제 정보가 발생하고 있는 현장을 본질적으로 이해하기는 어렵다는 한계가 있었는데요.
그러나 사용자와 직접 접촉하는 하드웨어인 엣지 디바이스에 AI가 결부된 형태의 온디바이스 AI는 환경을 직접 경험하고 정보를 처리하기 때문에 실제 사용하는 사람에게 더욱 적합한 결정을 내릴 수 있다는 장점이 있습니다.
온디바이스 AI가 가져올 삶의 변화
삼성전자는 딥러닝(Deep Learning) 알고리즘과 온디바이스 AI와 같은 혁신기술 연구에 집중하고 있습니다. ‘삼성 AI포럼’를 통해 서버를 거치지 않고 기기 자체에서 AI 기능을 수행하는 ‘온디바이스 AI 통역 기술’을 선보이기도 했는데요.
프리미엄 모바일 어플리케이션 프로세서(AP)의 성능이 높아지면서 온디바이스 AI의 적용도 빨라지고 있습니다.
지연 없이 실시간으로 다양한 연산을 처리하는 시스템 반도체 신경망처리장치(NPU, Neural Processing Unit) 탑재로 모바일 기기 자체에서 빠른 인공지능 연산 처리가 가능해졌는데요. 고성능 연산 능력이 필요한 온디바이스 AI를 위해 NPU 성능을 높이기 위한 다양한 업체의 노력은 계속될 예정입니다.
온디바이스 AI의 발전을 통해 사용자의 식습관이나 운동 등 생활 습관에 대한 정보를 직접적으로 파악할 수 있게 되면서 스마트 기기의 사용자 맞춤형 서비스도 더욱 강화될 전망인데요.
사용자 중심의 온디바이스 AI의 활성화가 우리의 실제 생활에 미칠 긍정적인 변화를 기대해 봅니다
2023.10.13 - [New Gadegt] - ChatGPT와 음성으로 대화하는 방법
ChatGPT와 음성으로 대화하는 방법
CHATGPT 기반 오디오 도크는 통화를 녹음, 녹음, 요약하여 작업 시간을 절약할 수 있습니다. PC 또는 Mac을 위한 매우 세련된 멀티 포트 도크로 설계된 HiDock H1은 단순히 컴퓨터에 추가 포트를 제공하
penguin5.tistory.com
2023.04.03 - [IoT, AI] - AI 기술의 악용 - 음성 변조 사기 증가
AI 기술의 악용 - 음성 변조 사기 증가
커지는 AI기술 악용 우려 음성 변조 사기에 대한 이야기들이 갈수록 증가하고 있습니다. 보이스 피싱도 피하기 힘든데 이제 목소리까지 똑같이 들리면 정말 피하기 어려운 일들이 될 것 같습니
penguin5.tistory.com
2023.01.30 - [IoT, AI] - 사물인터넷 IoT(Internet of Things)란?
사물인터넷 IoT(Internet of Things)란?
사물 인터넷(IoT) 이란? 사물 인터넷(IoT)은 일상적인 장치를 인터넷에 연결하여 데이터를 수집하고 공유할 수 있게 해주는 급속도로 성장하는 기술입니다. IoT의 개념은 수십 년 동안 있었지만 2000
penguin5.tistory.com