본격 경쟁이 시작되는 온디바이스AI, 최근 움직임은?

일상에 AI가 더 가까워지고 있는 요즘, ‘온디바이스 AI’라는 말이 입에 잘 붙지 않을지언정, ‘온디바이스 AI’의 의미를 모르시는 분은 별로 없을 것 같습니다.🙂 에디터 SA를 포함해서, 많은 분이 업무를 포함해 생활 전반에서 AI를 활용하고 있는데요. 아직 AI 서비스를 골라 쓰기에는 부족한 느낌이 있지만, 확실하게 생활에 편의를 도모할 수 있다는 게 확 와닿더라고요. 그래서 출시 예정인 온디바이스 AI 기기에 대한 기대도 생기게 됩니다.😊

이제, 삼성에서 갤럭시S24로 포문을 연 온디바이스 AI 시장에 애플도 본격 진입하게 되었습니다. 이번에 공개한 아이패드 신제품은 온디바이스 AI를 대거 탑재하고 있는데요.😲 애플의 신제품은 늘 관심을 받고 있지만, AI가 탑재된다는 점 때문에 더 많은 관심을 받는 것 같습니다. 이번 [AI, 뉴스룸]에서는 애플의 신제품 소식을 포함해서, 온디바이스AI에 대한 최신 소식들을 전해 드릴게요.

 

 

 

[ ‘최초의 AI 태블릿’ 타이틀, 애플이 차지한다! ]

Apple iPad Pro (출처:https://www.apple.com/kr/shop/buy-ipad/ipad-pro)

M4 칩을 탑재한 애플의 신형 아이패드는 AI에 최적화된 제품으로 알려졌습니다. 물론, 아이패드가 가진 디자인과 성능 측면을 더 두드러지게 강조하고 있긴 한데요. 그간 애플이 개발해 온 AI 기술을 확인할 수 있다는 점에서 이전보다 더 눈길이 가는 제품입니다.🤓

아이패드에 탑재된 M4 칩은 M4는 지난해 10월 발표한 M3에 이어 단 6개월 만에 출시된 전용 칩인데요. AI 기능 탑재를 위한 전용 칩을 전작으로부터 단 6개월 만에 출시, 사용했다는 점에서 얼마나 애플이 다급하게 움직였는지 짐작할 수 있었습니다. 핸드폰에서는 ‘최초’의 자리를 삼성에 내줬으니, 태블릿에서는 애플이 ‘최초’를 차지하겠다는 의도가 보였다고 할까요?🤔

'최초의 AI 태블릿'으로 브랜딩한 아이패드인 만큼 AI의 학습과 추론 성능을 감당할 수 있는 하드웨어 구성에 신경 쓴 모습입니다. 10개의 CPU 코어와 10개의 GPU 코어로 구성돼 있는데요. 새로운 CPU는 M2 칩보다 50% 더 빠르며, GPU는 M3에 비해 4배 향상된 렌더링 성능을 보여준다고 하는데요. 동적 캐싱, 하드웨어 가속 메시 셰이딩, 레이 트레이싱 기능을 갖춘 GPU 아키텍처까지 적용했습니다.😲 AI가 탑재된 만큼, 하드웨어의 성능 자체에 전작보다 더 신경 쓴 느낌입니다.🙂

 

AI에 대한 내용은 6월 10일에 개최되는 세계 개발자 회의(WWDC)에서 밝혀질 것으로 보입니다만, 지난 몇 개월간 애플이 논문으로 발표한 새로운 온디바이스 AI 기능이 적용되었기에, 어떤 내용이 6월에 공개될 것인지 어느 정도 추측은 가능한 상황입니다. 예를 들어 사진이나 비디오 속에 있는 장소, 식물, 동물, 음식 등의 정보를 식별해 내는 기능, 그것들을 추출하여 편집할 수 있는 기능이 있으며, 사진으로 촬영한 텍스트를 편집 또는 번역, 검색할 수 있는 기능 등입니다.🤓

물론 이 정도의 기능은 현재 애플 외의 다른 제품에서도 이용이 가능합니다. 다만 애플이 발표한 온디바이스 AI용 언어모델 '페렛', 임지-텍스트 모델 'MM1', 사진 편집 모델 ‘MGIE' 등을 기반으로 하는 기능이기에, 지금까지 우리가 사용해 온 온디바이스 AI 기능과 성능 차별화가 있을 것으로 보입니다.🤔 일종의 ‘밈’으로 쓰이기도 했던 Siri의 성능 개선 역시 기대를 모으고 있습니다. AI 기능이 적용되면서 가장 많은 변화를 겪게 되고, 또 편의성이 많이 개선될 것이라는 기대가 있기에 애플에서는 Siri와 AI의 만남에 대한 언급을 일부러 WWDC까지 미루고 기대감을 고조시키고자 하는 것 같은데요. 자세한 내용은 6월에 확인할 수 있을 것 같습니다.

 

 

 

[ 엔비디아의 자체 개발 챗봇, 이제 멀티모달 기능까지! ]

엔비디아가 자체 개발한 AI 챗봇이 있다는 사실, 알고 계신가요? ‘챗RTX(ChatRTX)’라는 이름의 이 챗봇은 RTX GPU가 장착된 PC에서 로컬로 실행되는 데다, 최근 GTC에서 공개되었기에 잘 모르시는 분들도 계실 수 있는데요. 우리가 보유한 데이터셋을 언어 모델에 연결하기에, 음성 또는 이미지 쿼리로 상황에 맞는 답변을 받을 수 있습니다. 이 AI 챗봇에 최근 음성과 이미지, 새로운 모델에 대한 지원이 추가되었다는 소식입니다.🤓

챗RTX에 추가된 기능으로는 AI 기반 음성 인식, 사진 검색이 있습니다. 또한 지원 언어모델이 확장되었고 멀티모달 기능도 강화되었습니다. 그러니까, 키보드 자판을 두들기지 않고 말로 AI를 이용할 수 있게 되는데요.🙂 텐서RT-LLM 소프트웨어 및 엔비디아 RTX GPU 성능을 활용하여 RTX 기반 PC에서 생성 AI를 로컬로 실행할 수 있다는 점도 챗RTX의 매력인데요. 개인 데이터를 기반으로 하여 단어나 용어 혹은 구문, 사진까지 검색할 수 있는 데다 구글의 최신 언어 모델인 ‘젬마(Gemma)’와 오픈 소스 모델 ‘챗GLM3(ChatGLM3)’까지 이용할 수 있습니다.

참! 깃허브에서 챗RTX 프로젝트를 무료로 참조할 수 있습니다. 개발자라면, 검색 증강 생성(RAG) 기술을 사용해 다양한 사용 사례에 대한 AI 애플리케이션을 탐색하고 확장할 수 있어, 직접 일상에 AI를 도입, 활용할 수 있답니다.🙂  

 

 

 

[ 온디바이스 AI, 그냥 모바일 앱 아닌가? ]

한편, 온디바이스 AI에 대해 단순 모바일 앱이 아니냐는 비판과 논쟁도 있습니다.😲 최근 AI 전용 장치 'R1'을 두고 나온 이야기인데요. 래빗의 'R1’은 지금까지 출시된 온디바이스 AI 장치 중 반응이 좋은 편입니다. 그럼에도 R1은 기계 장치가 아니라, 단순한 '안드로이드 앱'이 아닌가, 하는 주장이 나온 것인데요. 아무래도 우리가 AI를 접하는 방식이 우리에게 익숙한 어플리케이션 다운 및 이용 방식과 거의 같기에 나오는 이야기인 것으로 보입니다. R1의 경우 조금 다르긴 한데요. 아예 근거 없는 주장은 아닙니다. 

래빗의 R1 런처 APK를 안드로이드 휴대폰에 설치하면, 마치 앱을 설치하듯 설정을 진행하고 계정을 만들고 작동할 수 있다고 하는데요. 해상도가 낮다는 차이만 빼면 래빗의 R1 장치와 동일하게 구현된다고 하네요. AI 전용 장치라고 부르려면 하드웨어에서 작동이 가능하게 만들어 주는 운영 체제(OS)가 있어야 하는 것이 기본인데요. R1이 다른 장치에 설치할 수 있는 APK로 작동한다면, AI 디바이스인 R1을 구매하는 의미가 없다는 주장인 것입니다. 그냥 런쳐 APK를 구해 설치하면 AI를 이용할 수 있게 되는 것이니까요.🤔

 

일상에서 AI를 사용하는 방식이 어쨌든 기존의 애플리케이션 사용 방식과 매우 유사하다는 점에서, 어떤 온디바이스AI가 나오던 피할 수 없는 주장일 것으로 보입니다. 만약, 별도의 디바이스를 비싼 가격으로 출시했다면, 이 주장은 비난으로 변할 수도 있겠어요.🤔 하드웨어와 데이터 요금제까지 적용하는 R1의 경우가 딱 그렇습니다. 휴대폰을 꺼낼 필요 없이 AI를 이용한다는 점에서, R1은 지난 1월 CES 때 많은 주목을 받았고 열흘 만에 5만대 매진을 기록했었습니다. 그래서, 래빗 측에서는 아직 R1 제품을 받아보지 못한 이들이 많기에 생기는 헤프닝으로 이해하고 있는 것 같은데요. 반발 및 반박 입장을 내놓기는 했습니다.

처음부터 휴대폰 앱 컨트롤러의 개념으로 출시되었고, 터치스크린, 버튼, 카메라, 스피커, 마이크 등으로 구성된 별도의 기기 형태이기에 별도의 AI 기기로 보아야 한다는 것입니다. 온디바이스AI의 기본 개념처럼 자체 칩으로 동작하는 것이 아니라 인터넷으로 LLM을 호출하는 것이라는 점에서 차이가 있겠으나, 어쨌든 별도의 하드웨어 구성으로 제조한 기기라는 점은 변하지 않으니까요.🤓 래빗은 R1의 런쳐 APK 유출을 불법 APK 유출을 불법 복제로 규정하며, 정품 사용을 권고하는 태도를 보이고 있습니다.🤔

 

 

 

첫 온디바이스AI ,첫 AI 기기라는 타이틀을 갖게 된 업체들은 이런 비판을 피할 수 없는 것일까요?🤔 얼마 전에는 유명 기술 유튜버가 휴메인의 'Ai 핀'에 대해 악평을 하기도 했었고, 최초의 온디바이스AI 스마트폰으로 브랜딩한 삼성의 갤럭시 S24 역시, 소비자가 체감하기에는 기존 스마트폰 제품의 빅스비 기능과 큰 차이가 없어 여러 이야기가 오가기도 했습니다. ‘처음’이기에 감당해야 하는 몫이기는 하겠지만, 온디바이스AI 역시 아주 작은 AI 인프라로 이해한다면 받아들여지는 부분도 있습니다.🤓 기기의 본질을 지키는 방향에서 제품과 성능을 개선하는 것은 인프라 산업의 관점에서 당연한 요구니까요. 그럼, 에디터 SA는 다음 주 흥미로운 AI 이야기로 다시 돌아오겠습니다.😉