본문 바로가기

AI Feed

Tech & Product

머신러닝, 딥러닝의 프레임워크, 이렇게 많았어? 안녕하세요, 에디터 SA입니다. 최근 저에게는 혼란스럽기만 한 회의가 있었는데요…🥲 바로, AI 개발자 분들과 함께한 회의였답니다. 다양한 이야기들이 오고 가는 자리였는데, 거의 대부분의 내용을 이해는커녕 알아들을 수 없었거든요…😵‍💫 👨‍💻 “그래도 텐서플로 사용자들이 여전히 있으니 무시하긴 어렵죠…” 👩‍💻 “케라스랑 조합했을 때의 효과는…” 🧑‍💻 “파이토치는… 아무래도 그런 게 있죠…” 무슨… flow요…? 케라스, 파이토치…는 다 뭔가요? 😵‍💫 이제 막 MLOps의 개념과 MLOps Lifecycle에 대해 알게 된, ‘AI린이’보다도 더 초보에 가까운 저에게는 모두 새롭기만 했습니다. 그날, 회의 내내 언급된 생소한 단어들의 정체는 바로 ‘프레임워크’였습니다. 디자인 작업을 할 때에 포토샵,..
COMPUTEX 2023를 장악한 엔비디아의 키노트, 인프라로 읽어보기 안녕하세요, 에디터 SA입니다😊 지난 5월 30일부터 6월 2일까지, 대만 타이베이에서 열린 COMPUTEX 2023의 여파가 아직도 남아있는데요. 4년만에 열린 행사인 만큼 전 세계의 이목이 쏠렸기 때문이겠지요. 또한 AI처럼 향후 미래 산업을 책임질 신기술에 영향을 미칠 이야기들이 대두된 것도 한몫하지 않았나, 생각합니다. 우리 모두 알고 있는 한 회사의 Keynote가 그 이야기의 중심에 있지요. 올해의 COMPUTEX에서는 챗GPT, 스테이블 퓨전 등 생성형 AI로 인해 블루칩으로 등극한 엔비디아의 존재감이 빛을 발했었는데요. 특히 2시간가량 진행된 NVIDIA의 키노트 세션에서는 예상하지 못했던 이야기들을 들을 수 있었습니다. NVIDIA의 CEO 젠슨 황(Jensen Huang)은 광고, 제조..
머신러닝, MLOps와 MLOps Lifecycle 톺아보기 안녕하세요, 에디터 SA입니다. 여러분은 인공지능에 대해 얼마만큼 알고 계신가요? 인공지능, 혹은 AI는 우리와 가깝지는 않지만, 많은 곳에서 이야기가 나오다 보니 이제 막 낯가림이 끝나가는 중인 말인 것 같은데요. 알고리즘? 구글의 알파고? Chat GPT? 혹은 SF영화에서 봤을 법한 빡빡머리(?) 로봇을 떠올리시는 분도 있겠습니다. 왜냐하면, 저도 그렇거든요. 저는 지금까지 다양한 분야의 프로젝트를 기획하고 경험해 왔어서, 인공지능에 대해서도 다른 사람들이 아는 만큼, 혹은 그보다 조금 더 많이 알고 있다고 생각했었는데요. TEN의 구성원으로 함께하게 되면서, ‘인공지능’에 대해 본격적으로 접하게 된 후… 글쎄요, TEN에서 제가 마주한 ‘인공지능’에 대한 정보들은, 제가 알던 것과 사뭇 달랐습니다..
주식회사 텐, Coaster Auth 오픈소스 공개 Coaster Auth는 Java Spring 스택 기반의 IAM(Identity and Access Management) 오픈 소스 소프트웨어입니다. 주요 기능 :OAuth 2.0 authorization serverOpenID Connect identity providerKubernetes 배포 유틸리티kube-apiserver OIDC 설정 유틸리티 오픈소스 공개 페이지 이동 : https://github.com/ten1010-io/coaster-auth GitHub - ten1010-io/coaster-auth: Coaster AuthCoaster Auth. Contribute to ten1010-io/coaster-auth development by cre..
JSON Patch REST API를 개발할 때 CRUD중 create, read, delete의 dto 설계는 비교적 간단하나 update는 다양한 방법이 가능하기 때문에 고민되는 부분입니다. 이 때 사용할 수 있는 JSON Patch를 소개합니다. JSON Patch JSON Patch는 json의 수정을 표현합니다. 따라서 REST API 설계시 PATCH 메소드와 함께 사용하면 update 기능을 구현할 수 있습니다. 예제 JSON Document { "a": "a", "b": "b" } JSON Patch [ { "op": "add", "path": "/c", "value": "c" }, { "op": "remove", "path": "/a" } ] 결과 { "b": "b", "c": "c" } 지원하는 Opera..
Docker의 등장 배경과 구조 Docker 등장 배경 chroot chroot는 ‘root 디렉토리(/)'를 변경하는 기능입니다. 프로세스의 root 디렉토리를 변경하여 해당 프로세스가 chroot로 설정한 root 디렉토리 밖의 파일이나 디렉토리에 접근하는 것을 제한합니다. 하지만 chroot는 파일이나 디렉토리에 대한 접근 권한만 제어하기 때문에 완전한 가상화가 아니었고 설정 방법도 복잡하여 여러 가지 제약이 있었습니다. LXC 이후 cgroups와 namespace기술을 이용한 컨테이너 기술의 시초인 LXC(Linux Container)라는 시스템 레벨의 가상화가 탄생하였고, OS 자체를 가상화하는 VM과는 다르게 해당 기술은 호스트 OS의 커널을 공유하고 단순히 하나의 격리 되어 있는 프로세스로써 동작하기 때문에 컨테이너라고 ..
GPU의 효율을 극대화 하는 솔루션 - Coaster 최근 AI 관련 산업이 늘면서 데이터 학습, 추론, 서비스 등 GPU를 많은 곳에서 사용하고 있습니다. 많은 수요와 동시에 GPU의 가격도 천정부지로 오르고 있어 고가의 GPU를 효율적으로 사용하고자 하는 수요도 늘고 있습니다. 국내 MLOps 솔루션 회사인 주식회사 텐의 Coaster를 소개해드리고자 합니다. Coaster란? Ten에서 개발한 솔루션으로 서버의 리소스(CPU, GPU, RAM 등)를 필요한 만큼 나눠 독립된 컨테이너 환경으로 제공하는 솔루션 오늘은 Coaster 솔루션의 여러 기능 중 GPU 효율성 향상을 초점으로 진행한 실험 결과를 공유해 드리고자 합니다. GPU 장비가 고가이다 보니, 하나의 GPU에 여러 서비스를 올리거나 다수의 개발자가 동시에 개발/테스트를 진행하는 경우가 있습..
글로벌 MLOps 및 ML 도구 분야의 플레이어들 2/2 2달여 사이에 MLOps 대 유행이 시작이라도 된 것인지 MLOps 솔루션 사업을 공표한 국내 스타트업들이 부쩍 눈에 띄는 것 같습니다. 지난번에 이어 ‘글로벌 MLOps 플레이어’들에 대해 알아보겠습니다. 지난 글에서는 MLOps 도구가 지원하는 ML 생애주기 별 기능을 설명했습니다. 지난글 보기↗ 이번 글에서는 글로벌 플레이어들이 그들의 제품으로 ML 생애주기 별로 어떠한 태스크를 지원하는 지 정리해 보고자 합니다. 주로 2013년 ~ 2014년에 창업한 이들은 최근 몇 년간 막대한 펀딩을 유치한 것으로도 유명한데요, 우리보다 약 4~5년은 앞서 사업을 시작한 이들의 발자취를 통해 우리나라 MLOps 스타트업의 미래를 가늠해 볼 수도 있을 것 같습니다. MLOps 춘추 전국 시대라는 표현에 걸맞게 2..
GIL(Global Interpreter Lock) 이번 글에 설명하는 내용은 다양한 파이썬 인터프리터 구현체 중 가장 오래되고 많이 사용하는 c 언어로 구현된 Cpython을 바탕으로 한 내용입니다. 1. GIL 이란? Global Interpreter Lock In CPython, the global interpreter lock, or GIL, is a mutex that protects access to Python objects, preventing multiple threads from executing Python bytecodes at once. 파이썬 위키 에서는 GIL을 파이썬 객체에 대한 접근을 보호하는 mutex이며, 여러 스레드가 파이썬 바이트코드를 한번에 실행하는 것을 방지한다라고 설명합니다. 공식문서를 보면 항상 느끼는 거지만 ..