AI 일상화가 코 앞에! 2024년의 AI는 '온디바이스 AI'

지난 2023년은 AI의 역동적인 움직임을 엿볼 수 있었습니다. 처음에는 글로벌 테크 기업만의 영역이라고 여겨졌었지만, 하반기에 접어들면서 국내 기업들도 차츰 AI 진출에 시동을 걸기 시작했지요. 대기업들은 일제히 LLM을 내놓았고, 스타트업들도 다양한 쓰임새의 AI 모델 또는 솔루션으로 두각을 나타냈어요. 그 가운데에는 저희 TEN도 한 역할을 했었지요.😎 AI 인프라의 효율적인 활용을 위한 자체 기술로 개발한 MLOps 솔루션 AI Pub이 GS 인증을 받았고, 세계 120위권 규모의 대형 클러스터 구축에도 참여했어요. 연말에는 해외 매체인 CIO Review에 유망 기업으로 선정되기도 했고요.😊

🐉청룡의 기운이 꿈틀거린다는 올해에는 AI 산업에 어떤 변화가 나타날까요? 작년부터 업계 관계자들은 본격적인 ‘AI 킬러 서비스’가 등장할 시기라고 전망했어요. 작년까지는, AI가 좋다, 대단하다, 그런 이야기들을 많이 들었지만, AI를 일상에서 자주 사용하는 경우는 많지 않았잖아요. 업무에 활용하는 경우도 있고, 공공 서비스 등에 AI가 도입되기도 했지만, 피부로 느껴지는 사례는 많지 않았던 것 같아요. 🤔 하지만 올해부터는 우리가 눈으로, 손가락 끝으로 활용할 수 있는 AI가 등장할 것이라는 예측이 나온 것이지요.

 

그 ‘킬러 서비스’의 중심이 될 것이라고 AI피드에서 소개해 드린 내용이 있었는데, 혹시 기억하시나요? 1인 1 AI 시대가 열릴 것이라며 소개해 드렸던 AI 스마트폰, AI PC 이야기였습니다.

👉 AI PC, AI 스마트폰 출시 예고! 1인 1 AI 시대가 열릴까?

우리가 일상적으로 사용하는 스마트 기기📱, 데스크탑 PC🖥️나 노트북 PC💻에 도입되는 AI를 '온디바이스 AI'라고 합니다. 애플은 물론 삼성전자 등이 모바일에 AI를 탑재한다고 예고했었는데요. 이제 그 제품들의 출시가 가시화되었습니다. AI가 우리 생활의 일부가 될 날이 코앞으로 다가온 것 같아요. 그래서, 이번 주 AI 뉴스룸에서는 이 ‘온디바이스 AI’에 대한 최신 소식들을 소개해 드리려 합니다.

 

 

[ 우리는 온디바이스 AI를 어떤 형태로 만나게 될까? ]

이제 AI가 업무도 대신 해주고, 과제도 대신 해주고... 혹시 돈도 대신 벌어다 주는 날이 올까요...?

우리가 던진 질문에 대답만 하는 AI 모델이라고 생각했던 ChatGPT는 이제 우리 대신 전화로 피자🍕를 주문해 주지요. 자신이 작성한 코드를 리뷰하고 개선하며 뛰어난 작업자(!)의 면모까지 보여주고 있습니다. AI에 대한 사람들의 첫인상이 ‘챗봇’이었다면, 스스로 외부 툴을 활용해서 우리가 원하는 것을 알아서 처리해 주는 AI가, 사람들의 기대치가 되었어요.

우리의 요청을 인지하는 방식은 음성, 이미지, 영상을 입력하는 LMM 모델 형태의 AI 챗봇과 같을 수 있겠지만, 우리가 요청한 모든 작업을 처리할 수 있다는 점에서 이전의 AI와 차이점이 생기게 될 거예요. 광범위한 지식을 기반으로 하여 응답하는 기존의 AI 챗봇과 달리 개인화되고 전문화된 사용자의 데이터를 활용해 다양한 작업을 하게 되니, 나에게 맞춰진 ‘AI 매니저’🧑‍💼가 생기는 셈이죠.

이 ‘AI 매니저’는 온디바이스 AI로 우리 일상을 파고들게 될 거예요. 마치 히어로 무비에 나오는 장면처럼, 손목의 기기에 대고 무엇이든 요청하면 들어주는 AI가 함께하는 일상, 너무 먼 이야기일 것 같다고요? 아닙니다. 최근 마이크로소프트(MS)에서 출시한 GPT-4를 기반의 앱 ‘코파일럿(Copilot)’이 AI 에이전트의 본격적인 시작이 될 예정이거든요.😲

우리의 요청 대부분을 들어주게 될 AI에 맞춰, 각 디바이스들의 ‘UI(사용자 인터페이스)’도 큰 변화를 겪게 될 것으로 보여요. 지금까지 우리는 마우스로 대상을 클릭하거나, 손가락 등으로 짚어서 원하는 작업까지 도달하는 방식으로 컴퓨터나 스마트폰을 활용했지요. 앞으로 온디바이스 AI가 있으니, 손가락조차 움직일 필요 없이 말만 하면 작업이 가능하게 됩니다. 시선의 이동과 포인팅을 고려하는 UI에서, 한눈에 모든 것이 들어오고, 음성으로 작업을 요청하기 쉽도록 정리된 UI로 변화하는 과정도 올해에 흥미롭게 지켜볼 포인트가 될 것 같네요.🤔

 

 

 

[ 더 이상 클라우드 사용은 불가능하다! ]

지금까지 생성 AI 시장은 클라우드를 기반으로 발전했습니다. 온프레미스 방식으로 GPU를 포함해서 상설 인프라를 구축하려니 비용 부담이 크고, 개발-학습-서비스 운영에 이르는 과정에서 필요한 인프라 자원에 대한 예측이 쉽지 않기 때문인데요. 물론 충분한 자본이 있는 글로벌 기업들은 자체 데이터센터를 구축하고 있지만, 그보다 규모가 작은 기업들 혹은 우리나라의 스타트업들에는 쉬운 일이 아니지요.🤔 당연히 클라우드를 기반으로 AI 모델과 서비스를 개발할 수밖에 없었습니다.

하지만 2024년의 생성 AI부터는 좀 달라질 것 같습니다. AI가 본격적으로 보편화되고 상업화되는 과정에서, 온디바이스 AI 기술이 중심으로 자리 잡게 될 텐데요. 클라우드 기반의 생성 AI를 계속 사용한다면, 사용자가 폭발적으로 늘어남에 따라 어마어마한 비용이 들거든요. 그럼, 이 비용을 감당하기 어렵기에 생성 AI를 서비스하는 것이 사실상 불가능하게 됩니다. 따라서 어지간한 AI 작업은 인터넷 연결 없이 로컬에서 실행하고, 클라우드가 꼭 필요한 서비스만 데이터센터에 접속하는 '하이브리드' 방식이 현실적인 대안이 됩니다.🤓

 

나 2024년부터는 AI 가진 에디터다. 😎

여기서 말하는 ‘로컬’은 우리가 일상에서 소지하고 있는 스마트폰, AI PC 등 각종 AI 장치가 됩니다. 이미 애플, 삼성전자, MS(마이크로소프트)가 관련 제품 발표를 앞두고 있죠. 우리에게 아직 익숙하지 않아서 그렇지, 각종 가전에도 AI를 탑재한 기능들이 속속 추가되고 있습니다.

AI 기기에 탑재될 반도체의 수요가 증가할 것이라는 전망과 함께 치열한 경쟁이 벌써 시작됐어요. 인텔의 AI CPU인 코어 울트라 프로세서, 퀄컴의 온디바이스용 차세대 애플리케이션 프로세서(AP) 스냅드래곤8 3세대 모델이 이미 시장에서 맞붙고 있습니다. 엔비디아와 AMD 역시 ‘온디바이스 AI’를 위한 칩 생산에 박차를 가하고 있습니다.

온디바이스 AI를 지원하기 위한 데이터센터의 중요성도 더 부각될 것으로 보여요. AI의 수요가 폭발적으로 늘어나기 시작할 2024년에는, 데이터센터의 자원들을 얼마나 효율적으로 활용할 수 있는가가, 데이터센터의 가치와 성능을 입증하는 키가 될 것 같습니다. 데이터센터의 자원들을 알차게 활용하기 위한 도구와 인프라 구축의 노하우가 AI 서비스의 성공에 큰 영향을 주게 되겠지요. 이쯤에서 다시 한번, 저희 텐(TEN)이 늘 강조하는 ‘인프라 효율’과 MLOps 솔루션 AI Pub, 그리고 새로 런칭한 인프라 컨설팅 서비스 랙스(RA:X)를 떠올려 보게 되네요.😉

 

 

 

[ 가장 빨리 만나볼 수 있는 온디바이스 AI는? ]

우리가 가장 빨리, 쉽게 만나볼 수 있는 온디바이스 AI는, 1월 18일에 삼성전자에서 발표하는 ‘갤럭시 S24’입니다. 생성 인공지능 ‘갤럭시 AI’를 탑재한 신제품이에요. 삼성전자의 이번 ‘언팩’ 행사 제목에서 ‘온디바이스 AI’가 우리 곁에 바짝 다가왔음을 느낄 수 있는데요. 바로, “새로운 모바일 AI 시대의 개막(Opening a New Era of Mobile AI)”입니다. 구체적인 제품명이 공개된 것은 아니지만, 갤럭시 S24 시리즈가 공개되는 것만은 확실해요!😊

지난 11월, 삼성전자는 향후 출시될 신제품에 '실시간 통역 통화(AI Live Translate Call)’을 시작으로 다양한 온디바이스 AI를 포함하겠다고 밝혔었는데요. 이번 갤럭시 S24의 온디바이스 AI를 계기로, 새로운 생성 AI 전용 서비스나 앱이 포함될 가능성도 있을 것 같네요.🤔

 

다음 주자는 MS(마이크로소프트)가 될 것으로 보입니다. 12월 28일, MS가 AI PC 라인으로 태블릿 제품인 '서피스 프로(Surface Pro) 10'을, 노트북으로는 '서피스 랩톱(Surface Laptop) 6'을 개발 중이라는 소식이 보도됐었는데요. 올해 중에 두 제품을 만나볼 수 있을 것으로 보입니다.

MS는 온디바이스 AI를 본격적으로 준비하면서, 생성 AI ‘코파일럿’도 함께 지원할 수 있도록 퀄컴 '스냅드래곤 X (Snapdragon X)' 프로세서를 도입, 제품 라인업을 강화했는데요. 올해 출시될 서피스 프로 10과 서피스 랩톱 6의 ARM 버전에서 스냅드래곤 X 프로세서 시리즈의 맞춤형 칩을 경험해 볼 수 있다고 합니다.😲 스냅드래곤 X 엘리트는 ARM 기반 12코어 CPU를 갖추고 있고요. GPU는 물론 최대 130억 개 매개변수 AI 모델을 실행할 수 있는 NPU를 장착하고 있어요. 움직이는 작은 데이터센터가 아닌가 싶습니다.

 

 

 

MS의 창업자 빌 게이츠는 급변하는 AI 산업을 지켜보면서, "GUI 이후 가장 혁신적인 UI의 변화"라고 지적했는데요. AI 산업에 있어 인프라와 모델 개발에 대한 기술력도 중요한 요소이지만, 실제 AI 서비스 사용자들이 체감할 수 있는 AI의 모습은 빌 게이츠의 이야기대로 ‘UI’의 변화가 아닐까 싶습니다. 아이콘 클릭 방식으로 PC가 우리의 삶을 바꿨듯이요. 그리고 새로운 일상을 만드는 B2B 영역에서는 하드웨어와 인프라의 사전 구축과 끊임없는 개선이 필수였지요. 온디바이스 AI로 찾아올 ‘AI 일상화’ 시대 역시 마찬가지로, 데이터센터와 인프라 효율이 중요한 화두가 될 것 같습니다.😊