분류 전체보기 1202

Cloudforet 101: Provider & Service Account

Cloudforet LinuxFoundation 오픈 소스 프로젝트 시리즈에서 리소스의 핵심 개념 중에 하나는 "provider"와 "Service Account"입니다.개요"provider"는 여러 계정(Service Account)에 존재하는 리소스를 하나로 그룹핑하는 가장 중요한 엔터티입니다. 이러한 서비스 계정은 provider가 제공하는 리소스에 안전하고 효율적으로 액세스하는 데 사용됩니다. User Experience: ConsoleCloudforet 콘솔 웹페이지의 "Home > Asset Inventory > Service Account"에서 provider 및 Service Account를 확인할 수 있습니다.ProviderCloudforet에서 provider는 다양한 리소스를 그룹화하..

R&D/클라우드 2024.06.19

Llama3 prompt template

Prompt template 을 어떻게 작성하느냐에 따라 결과값은 상당히 다르다. 또한 각 모델별로 prompt template 형식도 전혀 다르다.Llama3 의 Prompt Template에 따른 결과값의 차이가 얼만큼 다른지 테스트 해보자.Llama3를 local PC에 설치하려면 간단하게 Ollama를 활용하면 된다.Llama3 설치 ollama run llama3:instructLlama3 의 템플릿 형식https://llama.meta.com/docs/model-cards-and-prompt-formats/meta-llama-3/ Meta Llama 3 | Model Cards and Prompt formatsSpecial Tokens used with Meta Llama 3. A prompt..

R&D/AI 2024.04.29

AWS Spot Instance 중단 대응

Amazon EC2 Spot Instance는 언제든 종료될 수 있다는 가정을 가지고 사용해야 합니다.Spot Instance Lice CycleSpot Instance는 다음과 같은 Life Cycle을 가지고 있습니다.* Spot Instance가 Terminate 되기 2분 전에 Interruption notice가 발생합니다.* 그리고 15분부터 "Rebalance recommendation" 이벤트가 발생합니다.   . Rebalance recommendation 는 항상 spot instance terminate 2분 공지보다 먼저 발생하는 것은 아니라고 합니다. Interruption notice와 함께 도착할 수도 있고, 이후에 도착할 수도 있다고 합니다.   . Rebalance reco..

R&D/클라우드 2024.04.25

Cloudforet 에서의 multi-tenant

멀터테넌트 아키텍처는 단일 애플리케이션 인스턴스 여러 고객(Tenant, in Cloudforet = Domain)이 공유하여 사용하는 소프트웨어 설계 방식 입니다. 이를 통해 자원 활용도를 높이고, 운영 비용을 절감하는 방식으로 SaaS 소프트웨어서 핵심 개발 컨셉으로 사용됩니다. 멀티테넌트 서비스를 제공하기 위한 방식 방식은 URL 기반으로 제공하는 경우입니다. 예를 들어 고객1(company1)과 고객2(company2)가 있을 때, 고객 1 의 접속주소 https://company1.console.example.com 고객2 의 접속주소 https://company2.console.example.com How to create new tenant in Cloudforet? 1. domain 생성..

R&D/클라우드 2024.04.16

FAISS(Facebook AI Similarity Search) 소개

Faiss는 Facebook AI Research에서 개발한 강력한 라이브러리로, 밀집 벡터의 효율적인 유사도 검색과 클러스터링을 가능하게 합니다. 이미지 검색부터 텍스트 분류와 클러스터링에 이르기까지 다양한 애플리케이션에서 개발자들 사이에서 인기를 얻고 있습니다. Faiss 이해하기 Faiss는 고차원 공간에서의 유사도 검색과 클러스터링을 위한 효율적인 솔루션을 제공하는 라이브러리입니다. 멀티미디어 문서의 임베딩 간 유사도 검색을 빠르게 수행할 수 있게 해줍니다. Faiss 자체는 벡터 데이터베이스가 아니라, 벡터 기반 검색 엔진과 애플리케이션을 구축하는 데 사용되는 기반 라이브러리입니다. Faiss의 주요 기능 효율적인 유사도 검색: Faiss는 고차원 벡터 데이터에 대한 빠른 유사도 검색을 위해 최..

R&D/AI 2024.04.05
728x90