본문 바로가기

AI Feed

Tech & Product

LLM을 더 정확하게, 믿음직스럽게! RAGOps 최근 AI 피드에서는, AI 기술의 발달과 패러다임의 변화를 반영하여 새롭게 정의한 프레임워크, 프로세스 등을 소개해 드리고 있습니다. MLOps의 연장선에서 새롭게 접할 수 있는 개념으로 GenAIOps와 LLMOps를 소개해 드렸는데요. 혹시, 아직 보지 못하셨거나 가물가물하신 분들도 있을 것 같아 잠시 소개해 봅니다.👉 생성형 AI 도입에 맞는 MLOps? 더 세분화해서 GenAIOps! 👉 LLM 기반 개발을 생각하세요? 그럼 LLMOps를 기억하세요!이번 [AI, 더 쉽게]는 앞서 소개한 GenAIOps, LLMOps처럼 MLOps에서 출발하지만, 새로운 개념에 관해 이야기해 보려 하는데요. 바로 RAGOps입니다. GenAIOps나 LLMOps는 그 이름에서부터 개념에 대한 짐작이 가능했는..
AI Pub 개발자가 소개하는: OpenLDAP 실습하기 안녕하세요, 에디터 TN입니다. LDAP(Lightweight Directory Access Protocol)은 디렉터리 서비스에 접근하기 위한 경량화된 프로토콜로, 꽤 오래전 공개되었지만, 지금까지도 널리 사용되고 있습니다. LDAP 중 LDAPv1이 1993년에 RFC(Request for Comments) 1487로 제정되었고, 1997년에 발표된 LDAPv3은 2006년에 RFC 4511로 업데이트되었습니다. 관련한 내용을 [AI, 더 깊게]의 5월 콘텐츠로 준비하여 설명하여 드린 적이 있었습니다.👉 AI Pub 개발자가 소개하는: 가볍고 빠른 프로토콜 LDAP7월의 [AI, 더 깊게] 에서는 5월에 이야기한 LDAP의 이론에서 더 나아가 예제까지 다뤄보려 합니다. OpenLDAP을 사용하여 L..
LLM 기반 개발을 생각하세요? 그럼 LLMOps를 기억하세요! AI의 패러다임이 LLM에서 LMM으로 옮겨가고 있지만, 우리가 일상에서 접할 수 있는 AI 서비스와 그로 인한 혁신을 생각하면, 여전히 LLM의 역할은 굳건합니다. LLM은 모델들은 대화형 AI, 자동 번역, 텍스트 생성 등 다양한 응용 프로그램에서 사용되고 있는데요. 최근 갤럭시 S24 이하 모델들에 OneUI 업데이트가 진행되고 나서 제공되는 일부 기능들이 바로 ‘LLM’을 바탕으로 하고 있다고 생각하시면 됩니다.이러한 LLM의 성공적인 배포 및 운영을 위해서는 특별한 관리와 운영 프로세스가 필요한데요. 우리가 알고 있는 MLOps, 그리고 지난주 AI 피드에서 이야기한 GenAIOps와도 다른 개념입니다. GenAIOps는 프레임워크라고 보아야 하고, 이번에 소개해 드릴 개념은 ‘프로세스’입니다...
생성형 AI 도입에 맞는 MLOps? 더 세분화해서 GenAIOps! AI가 다양한 산업 분야에 큰 영향을 미치고 있는 가운데, AI 기술의 발전은 더욱 가속화되고 있습니다. 특히 생성형 AI는 놀라운 가능성을 보여주고 있는데요. 각 산업 분야에서 AI를 비즈니스 프로세스를 혁신하는 도구로 인지하면서 도입 규모와 방향 모두 다양합니다. 이제 우리는 새로 출시되는 제품들이 온디바이스AI일 것이라는 기대를 자연스럽게 하고 있지요.하지만, AI의 잠재력을 최대한 활용하려는 각 산업의 움직임에 적절한 방식이 적용되어 있을까요? AI 피드에서 자주 언급해 왔던 내용이지만, AI를 도입하는 과정에는 적절한 개발, 배포 및 운영 체계가 필요합니다. 그래서 DevOps의 개념을 AI에 적용해 나가, 이제는 'GenAIOps'라는 개념이 나오게 되었는데요. 이번 AI 피드에서는 이 ‘Ge..
AI가 대답만 잘 한다고요? 이제 AI는 우리를 지켜준다고요! 안녕하세요, 에디터 SA입니다. 갑작스러운 질문이지만, 여러분 주변에서 ‘보안’을 신경 쓰지 않는 기업을 본 적이 있으신가요? 각 기업별로 방법과 정도가 조금씩 다르긴 하지만, 디지털 시대에 접어들고, 대부분의 업무가 컴퓨팅 자원, 클라우드 등으로 이루어지면서 사이버 보안은 모든 기업의 주요 과제가 되었습니다. IDC에 따르면 전 세계 50억 명의 인터넷 사용자와 약 540억 대의 디바이스가 초당 3.4페타바이트의 데이터를 생성하고 있다는데요. 이 데이터를 지키기 위한 노력은 당연히 필요할 거예요. 그 말인즉, 이 데이터들을 넘보는 사이버 위협이 상당하다는 의미이기도 하지요.보안 유지가 점차 어렵다고 느낄 만큼, 해킹 등의 사이버 위협은 더 복잡하고 정교해졌습니다. 그 숫자도 많이 늘어났는데요. 그 때문..
우리나라의 AI 산업은 지금 어떻냐고요? 열심히 달리는 중! 요새 AI 산업 내에서 무슨 일이 일어나고 있는지 알게 될 때마다, 놀랍고 신기하다는 생각이 끊이지 않는데요. 더 나은 성능의 AI 인프라 요소들, GPU나 패브릭(케이블)이 등장하고, 전보다 더 똑똑해진 AI 모델이 등장하는 게 쉬운 일은 아닐 텐데도, 관련 소식들이 연이어 들려오고 있으니까요. 오죽하면 일주일만 AI 소식을 멀리해도 긴 시간 관심을 끊었던 것처럼 많은 것이 바뀌어 있곤 합니다.한편으로는 이런 느낌도 받습니다. 내용을 다 훑어보기도 전에, 어느 기업의 근황인지 알 것 같다, 싶은 느낌이요. 내가 아는 그 유명한 글로벌 테크 기업들 중 한 곳에서 했겠지… 하는 생각으로 각종 기사를 읽어 보고, AI 피드의 콘텐츠를 읽고 계시지는 않은가요? 에디터 SA는 종종, 그렇거든요. 워낙 자주 접하..
AI Pub 개발자가 소개하는: Kubernetes Admission Controller 안녕하세요, 에디터 TN입니다. 이번 달 [AI, 더 깊게] 에서는 AI Pub의 기반이 되는 쿠버네티스에 대해 알아보겠습니다. TEN에서 제공하는 AI Pub은 쿠버네티스(Kubernetes) 기반 플랫폼입니다. AI의 라이프사이클을 기준으로, AI Pub Dev는 개발과 학습, AI Pub Ops는 배포 및 운영에 초점이 맞춰져 있습니다.AI Pub Dev는 클라우드 및 온프레미스 클러스터에서 다수의 AI 연구자가 GPU 자원을 활용하고 관리 및 모니터링할 수 있는 플랫폼입니다. AI 워크로드의 오케스트레이션과 팀 및 클러스터 전반의 하드웨어 리소스 관리 및 가상화를 자동화하며, GPU 오케스트레이션 기능을 통해 GPU를 더욱 효율적으로 사용할 수 있습니다.AI Pub Ops는 AI 서비스를 생성, ..
자기의 일은 스스로 하자♬ 알아서 배우는 AI가 나왔다고? 안녕하세요, 에디터 SA입니다. 오늘은 오랜만에, AI 모델들의 현주소를 알아볼까 합니다. AI와 관련하여 알아볼 것이 여전히 많기도 하고, 특히 최근에는 AI 인프라 관련하여 TEN이 잘 알고 있는 만큼, 그와 관련된 주제의 이야기와 소식들을 많이 전해 드렸는데요.지금까지 그래왔듯, AI 모델의 성능은 더 나아지고, 활용도는 더 다양해졌으며 생각지도 못한 방식으로 우리가 쌓아온 데이터를 학습하고 답을 내놓고 있습니다. 그래서 주기적으로 AI 모델의 현주소가 어떠한지 체크하고, 앞으로의 방향에 대해서도 알아볼 필요가 있는데요. 오늘의 AI 피드가 바로 그런 시간이 되겠습니다. 그럼, 최근의 AI 모델 관련 소식은 어떤 것이 있는지, 함께 알아보겠습니다.   [ 영상만 보고도 말을 배우는 AI ]이제, A..
소문과 기대의 중심, 애플 인텔리전스 공개! 연례 세계 개발자 컨퍼런스(WWDC)가 현지 시각으로 6월 10일에 열렸습니다. 여러분은 어떻게 보셨나요? AI에 관심이 많으신 분들은 대체로 온디바이스AI를 포함한 전자 기기에 관심이 많으셔서 그런지, 애플의 기조연설을 기대하신 분들이 꽤 많더라고요. 물론, 에디터 SA도 그중 하나였습니다.어떤 내용의 연설이든 워크숍이든, 애플이 스피커라는 말을 전해 들으면, 아무래도 그간의 혁신과 브랜드 가치 때문에 전 세계인의 관심이 모이게 되는데요. 이번 WWDC의 경우는 ‘애플’이라는 이유와 더불어, 소문만 무성하던 바로 그 ‘애플 AI’에 대한 이야기가 나올 것이라는 예측 때문에 더 높은 관심을 모았던 것 같습니다.그런데 WWDC 이후 사람들의 반응이 심상치 않습니다. 반응이 둘로 나뉘어 엇갈리고 있다는데요...