패키지 파일 하나만 가져오면 될까? 폐쇄망에서 사용할 Python 패키지를 준비하다 보면, 필요한 .whl 파일만 내려받으면 끝날 것 같지만 실제로는 의존성이나 플랫폼 호환성에서 막히는 경우가 있다. 최근 impyla를 준비할 때도 wheel만 받도록 설정하자 소스 배포본만 있는 의존성이 제외되면서 다운로드가 실패했다. 이번 글에서는 특정 PC 운...

GPU가 몇 장 필요한지 묻기 전에 AI 인프라 구성에 관한 발표 자료를 검토하면서, 모델에 따라 GPU 자원을 어떻게 산정하는지 설명하는 부분이 필요하다고 느꼈다. CPU, GPU, 스토리지 같은 구성 요소를 나열하는 것에서 한 걸음 더 나아가, 실제 사용할 모델과 서비스 조건을 연결해 설명하면 좋겠다는 생각이었다. LLM 추론 환경을 준비할 때...

왜 이 예제를 만들었나 동료 개발자들에게 LLM의 Agent와 Tool을 설명할 일이 있었다. 개념만 이야기하기보다는, 익숙한 데이터베이스 조회와 API 호출을 연결해서 보여주면 이해하기 쉬울 것 같았다. 이번 글에서는 Node.js와 LangChain.js로 다음 질문에 답하는 작은 Agent를 만들어본다. 개발팀 구성원과 서울 날씨를 알...

Go를 활용한 식품영양성분DB 조회 개요 Git: https://github.com/sunjin7725/api-call-test Go를 공부하고 공공 데이터를 불러오는 Restful API 개발 활용데이터는 아래와 같음 식품의약품안전처 식품영양성분DB 개발 현재 진행 중(2023-09-25 ~ 2023-10-27) 추가 예정부분은...

Go 언어란? Go Lang은 2007년 구글에서 개발한 오픈소스 프로그래밍 언어로, 간결하고 효율적으로 신뢰성있는 소프트웨어를 개발하기 위해 개발되었다. Go Lang은 다음과 같은 특징을 가진다. 간결한 문법 빠른 컴파일 속도 동시성 제어 가비지 컬렉션 간결한 문법 Go Lang은 타 언어들에 간결한 문법을 가지고 있...

Harbor 설치하기 Harbor 란? Docker에서 다른 사람이 만든 이미지를 다운 받고, 많은 사람들에게 공개해주기 위해서 Docker Hub 라고 하는 Public image registry를 주로 사용한다. 하지만, 사용자가 만든 이미지를 공개하고 싶지 않거나, 기업 내의 프로젝트에서 만든 이미지를 관리하기 위해서는 Private imag...

Rancher 설치하기 Rancher 란? Rancher는 컨테이너 워크로드를 보다 쉽고 간편하게 관리할수 있또록 도와주는 멀티 클러스터 관리 패키지이다. Rancher 공식 홈페이지 특장점 다양한 기능 및 통합 멀티클러스터 관리를 제공하는 툴 Web UI 기반 쿠버네티스 환경에 적합한 온프레미스, 퍼블릭 클라우드 지원 오픈 소스...

Cert Manager 설치하기 Cert Manager 란? Cert Manager는 Kubernetes 내부에서 HTTPS 통신을 위한 SSL인증서를 생성하고, 인증서가 만료 되면 자동으로 인증서를 갱신해주는 Certificate manager controller이다. Kubernetes 내에서 외부에 존재하는 Issuer를 활용하거나, 내부에서...

Helm 설치하기 Helm 이란? helm은 Kubernetes의 패키지 매너저이다. redhat 기반 os의 yum 이나 debian 계열의 apt와 같은 개념이라고 보면 될것 같다. 이런 helm을 쓰면 Kubernetes의 설치할 수 있는 패키지(Rancher에서는 App이라고도 한다)를 쉽게 설치 할 수 있다. helm은 Docker HUB...

Ingress Controller 설치하기 Ingress란? 서비스 앞에 두는 로드밸런서로 쿠버네티스 클러스터로 들어온 외부 접근을 클러스터 내부 서비스로 라우팅함. 사용자가 정의한 규칙(Prefix 규칙 등)에 따라 외부 접근을 라우팅함. Ingress Controller 란? Ingress를 위해서는 Ingress Controll...