본문 바로가기

AI Feed

Tech & Product/AI, 더 쉽게

LLM을 더 정확하게, 믿음직스럽게! RAGOps 최근 AI 피드에서는, AI 기술의 발달과 패러다임의 변화를 반영하여 새롭게 정의한 프레임워크, 프로세스 등을 소개해 드리고 있습니다. MLOps의 연장선에서 새롭게 접할 수 있는 개념으로 GenAIOps와 LLMOps를 소개해 드렸는데요. 혹시, 아직 보지 못하셨거나 가물가물하신 분들도 있을 것 같아 잠시 소개해 봅니다.👉 생성형 AI 도입에 맞는 MLOps? 더 세분화해서 GenAIOps! 👉 LLM 기반 개발을 생각하세요? 그럼 LLMOps를 기억하세요!이번 [AI, 더 쉽게]는 앞서 소개한 GenAIOps, LLMOps처럼 MLOps에서 출발하지만, 새로운 개념에 관해 이야기해 보려 하는데요. 바로 RAGOps입니다. GenAIOps나 LLMOps는 그 이름에서부터 개념에 대한 짐작이 가능했는..
LLM 기반 개발을 생각하세요? 그럼 LLMOps를 기억하세요! AI의 패러다임이 LLM에서 LMM으로 옮겨가고 있지만, 우리가 일상에서 접할 수 있는 AI 서비스와 그로 인한 혁신을 생각하면, 여전히 LLM의 역할은 굳건합니다. LLM은 모델들은 대화형 AI, 자동 번역, 텍스트 생성 등 다양한 응용 프로그램에서 사용되고 있는데요. 최근 갤럭시 S24 이하 모델들에 OneUI 업데이트가 진행되고 나서 제공되는 일부 기능들이 바로 ‘LLM’을 바탕으로 하고 있다고 생각하시면 됩니다.이러한 LLM의 성공적인 배포 및 운영을 위해서는 특별한 관리와 운영 프로세스가 필요한데요. 우리가 알고 있는 MLOps, 그리고 지난주 AI 피드에서 이야기한 GenAIOps와도 다른 개념입니다. GenAIOps는 프레임워크라고 보아야 하고, 이번에 소개해 드릴 개념은 ‘프로세스’입니다...
생성형 AI 도입에 맞는 MLOps? 더 세분화해서 GenAIOps! AI가 다양한 산업 분야에 큰 영향을 미치고 있는 가운데, AI 기술의 발전은 더욱 가속화되고 있습니다. 특히 생성형 AI는 놀라운 가능성을 보여주고 있는데요. 각 산업 분야에서 AI를 비즈니스 프로세스를 혁신하는 도구로 인지하면서 도입 규모와 방향 모두 다양합니다. 이제 우리는 새로 출시되는 제품들이 온디바이스AI일 것이라는 기대를 자연스럽게 하고 있지요.하지만, AI의 잠재력을 최대한 활용하려는 각 산업의 움직임에 적절한 방식이 적용되어 있을까요? AI 피드에서 자주 언급해 왔던 내용이지만, AI를 도입하는 과정에는 적절한 개발, 배포 및 운영 체계가 필요합니다. 그래서 DevOps의 개념을 AI에 적용해 나가, 이제는 'GenAIOps'라는 개념이 나오게 되었는데요. 이번 AI 피드에서는 이 ‘Ge..
AI가 대답만 잘 한다고요? 이제 AI는 우리를 지켜준다고요! 안녕하세요, 에디터 SA입니다. 갑작스러운 질문이지만, 여러분 주변에서 ‘보안’을 신경 쓰지 않는 기업을 본 적이 있으신가요? 각 기업별로 방법과 정도가 조금씩 다르긴 하지만, 디지털 시대에 접어들고, 대부분의 업무가 컴퓨팅 자원, 클라우드 등으로 이루어지면서 사이버 보안은 모든 기업의 주요 과제가 되었습니다. IDC에 따르면 전 세계 50억 명의 인터넷 사용자와 약 540억 대의 디바이스가 초당 3.4페타바이트의 데이터를 생성하고 있다는데요. 이 데이터를 지키기 위한 노력은 당연히 필요할 거예요. 그 말인즉, 이 데이터들을 넘보는 사이버 위협이 상당하다는 의미이기도 하지요.보안 유지가 점차 어렵다고 느낄 만큼, 해킹 등의 사이버 위협은 더 복잡하고 정교해졌습니다. 그 숫자도 많이 늘어났는데요. 그 때문..
AI 인프라가 AI 도입의 Key! AI 인프라 리소스 효율을 위한 다양한 노력들 AI를 도입하는 과정을 생각하면 가장 먼저 떠오르는 것은 무엇인가요? AI 모델을 바탕으로 기획한 서비스를 개발하고, 모델이 데이터를 학습하고… 일명 ‘AIOps’나 ‘MLOps’라고 이야기하는 과정을 생각하실 텐데요. 그런데 개발자분들이 AI 모델을 바탕으로 서비스를 개발하고, 서비스하는 과정 뒤에 ‘AI 도입’의 ‘키’🔑라고 할 수 있는 것이 있습니다. 직접 AI를 도입해 보신 분들만 체감한다는, 바로 ‘AI 인프라’의 구축과 관리입니다.🤓많은 분이 알고 계시다시피, AI는 도입 과정에서 자원이 계속 필요합니다. AI 인프라는 이 과정에서 나무의 단단한 줄기🌳처럼, AI가 안정적으로 도입될 수 있도록 리소스로서 기여합니다. 즉, AI 인프라는 AI를 개발, 학습, 배포하기 위해서 반드시 필요합니..
AI 인프라 구축에 참고 자료가 있다면? '레퍼런스 아키텍처' 최근 산업 분야를 막론하고 AI 도입을 고민하고 있습니다. TEN에게 AI 인프라에 대해 문의하시는 기업들을 보면 아주 다양한 업종에서 연락을 주시는데요. AI 도입을 고민하며 이것저것 알아보다 보니, AI 인프라를 직접 구축하겠다는 결정과 함께 TEN을 알게 되었다고 하시더라고요. 맞습니다. AI 인프라를 직접 구축하는 것이 장기적인 관점에서는 좋은 결정이 될 수 있습니다. 그에 대해 TEN의 도움을 필요로 하시는 것도, 아주 좋은 타이밍이라 할 수 있겠고요.🙂AI 인프라 구축을 알아보다가 TEN에게 연락을 주시는 이유는 아주 다양합니다만, 대체로 하나의 결을 갖습니다. 바로, “어떻게 구성해야 할까?”입니다.🤔 예를 들어, GPU는 최신 사양이라고 하는 특정 모델을 구입하려고 하는데, 그것만으로는..
혹시, AI '뉴비' 이신가요? ANI, AGI, ASI 쉽게 정리해 드립니다 AI가 ‘주목받는’ 분야인 것을 넘어, 이제는 상식이 되고 있는데요. 그래서일까요? AI피드에 놀러 오시는 분 중에 이제 막 AI와 인공지능에 관해 관심을 가져보시려는 분들이 늘어났답니다. 댓글이나 메일을 통해 궁금한 점을 문의하시는 분들도 있었는데요. 그렇게 AI와 AI 인프라, TEN의 솔루션에 관심을 보여주시는 분들과 이야기를 나누며, 에디터 SA는 이런 질문도 받게 되었습니다.🤓 🧑‍💼“AI가 인공지능이면, 내가 물으면 글이나 이미지로 답이 나오는 그런 거죠?” 네, 맞습니다. 맞지만, 모두 맞는 것은 아닙니다. 인공지능은 우리의 생각보다 아주 큰 개념이고, 또 다양한 방식으로 우리의 삶에 다양한 서비스를 제공할 수 있답니다. 오늘은 AI에 대해 이제 막 알게 된, 초초초 뉴비(!)이신 분들을 위..
AI를 덕질하신다면? 봄나들이도 AI 행사장으로! AI 행사 정보 모아보기 안녕하세요, 에디터 SA입니다. GTC 2024가 끝나고, 여러 방면에서 AI에 대한 관심이 다시 뜨거워졌습니다. TEN의 AI 피드에서도 그 시류에 편승해서 열심히 콘텐츠를 전해드리고 있는데요. 최근에는 AI 인프라 구축 컨설팅 서비스 RA:X의 테스트 케이스를 토대로, 우리의 상식과 편견을 깨는 새로운 인사이트도 전해 드렸습니다. 국내 최초 및 최대의 레퍼런스 아키텍쳐를 보유하고 있는 주식회사 텐에서 준비한 인사이트, 잠시 보고 오실까요? 😉 👉 RA:X 서비스 개발자의 인사이트: 혼합 정밀도와 GPU 성능 비교 이렇듯 AI에 대한 관심이 높아짐에 따라 다양한 AI 관련 콘텐츠가 쏟아져 나오고 있습니다. AI를 활용한 쇼츠 동영상 같은 오락성 콘텐츠는 물론이고, AI와 관련이 없던 분야에서도 AI에 ..
AI 인프라 전문 기업 TEN, 엔비디아 GTC 2024 직접 보고 오다 안녕하세요, 에디터 SA입니다. GTC는 끝났지만, 새로 발표된 제품들에 대한 관심이 뜨겁습니다. NVIDIA의 CEO인 젠슨 황의 키노트에 대한 감상, ‘블랙웰’에 대한 기대는 요새 업계 관계자들을 만나면 무조건 한 번 이상 듣게 되는 이야기이기도 합니다. 여전히 행사가 계속되고 있는 듯한 느낌인데요.🙂이 화제의 GTC 현장에 TEN이 다녀왔습니다.😉 AI 인프라 전문 기업으로서, AI 산업의 선두 주자인 엔비디아의 키노트는 직접 보아야 하지 않겠습니까! 커다란 경기장에서 열린 엔비디아의 키노트를 직접 보고 온 것은 물론, 직접 가보지 않으면 알 수 없는 관련 업체 부스들이 모여 있는 현장의 열기도 느끼고 왔답니다.어디서도 볼 수 없을 GTC 방문 후기를 TEN이 준비했습니다.🤓 온라인으로 ..