R&D 540

OpenStack: Available Zone 이란?

1. Available Zone(AZ)이란?Available Zone은 OpenStack에서 논리적으로 자원을 격리하기 위한 영역으로, 물리적인 데이터 센터 구조를 논리적으로 분리한 개념입니다. 이를 통해 다음과 같은 이점을 제공합니다:고가용성: 장애가 발생하더라도 다른 AZ에서 서비스를 지속할 수 있도록 설계.자원 관리: 특정 워크로드를 특정 AZ에 할당해 효율적인 자원 분배.격리: 개발 환경과 운영 환경을 분리하거나, 고객별 자원을 구분하여 사용할 수 있음.OpenStack에서 AZ는 주로 컴퓨트 노드와 관련이 있으며, 사용자 요청 시 인스턴스가 특정 AZ에 생성되도록 지정할 수 있습니다.2. Available Zone 구성 요소AZ는 물리적인 하드웨어와 논리적인 설정으로 구성됩니다. 주요 구성 요소..

R&D/클라우드 2025.01.12

OpenStack : network & subnet 을 활용한 VPC 만들기

1. Neutron의 네트워크란?Neutron에서 네트워크는 가상 2계층(Layer 2) 세그먼트로, 인스턴스(가상 머신) 간의 연결을 제공합니다. 이는 전통적인 네트워크의 VLAN과 유사하지만, OpenStack 가상 환경에서 작동합니다.네트워크의 주요 특징:분리(Segmentation): Neutron 네트워크는 VLAN, VXLAN, 또는 GRE 터널을 사용하여 트래픽을 분리할 수 있습니다.다중 테넌시(Multi-Tenancy): 각 OpenStack 프로젝트(테넌트)는 독립적인 네트워크를 생성 및 관리할 수 있습니다.유연성: 네트워크는 내부 네트워크(테넌트 전용)일 수도 있고, 외부 네트워크(인터넷 연결 가능)일 수도 있습니다.네트워크 생성:네트워크는 OpenStack 대시보드(Horizon) 또..

R&D/클라우드 2025.01.12

EVPN : 네트워크의 새로운 패러다임

1. 기존 네트워크의 한계우리의 이야기의 시작은 전통적인 네트워크 환경에서 벌어지는 문제들로부터 시작됩니다.회사 A는 데이터 센터와 여러 지사 네트워크를 연결하고 싶어합니다. 그런데 기존의 Layer 2 기반 네트워크는 확장성과 효율성에서 한계를 드러냅니다. 특히 다음과 같은 문제가 발생합니다:VLAN 확장 문제: 대규모 네트워크 확장에서 스패닝 트리와 같은 프로토콜은 병목 현상을 일으킵니다.비효율적인 브로드캐스트 트래픽: 불필요한 데이터가 전체 네트워크를 지나며 성능을 저하시킵니다.한정된 멀티테넌트 지원: 여러 고객을 격리해 관리하기 어렵습니다.기존 방식은 이 문제를 해결할 만큼 유연하지 않습니다. 새로운 해결책이 필요합니다.2. EVPN이란 무엇인가?EVPN(이더넷 VPN)은 MPLS와 VXLAN 같..

R&D/클라우드 2025.01.12

Cloudforet 101: Provider & Service Account

Cloudforet LinuxFoundation 오픈 소스 프로젝트 시리즈에서 리소스의 핵심 개념 중에 하나는 "provider"와 "Service Account"입니다.개요"provider"는 여러 계정(Service Account)에 존재하는 리소스를 하나로 그룹핑하는 가장 중요한 엔터티입니다. 이러한 서비스 계정은 provider가 제공하는 리소스에 안전하고 효율적으로 액세스하는 데 사용됩니다. User Experience: ConsoleCloudforet 콘솔 웹페이지의 "Home > Asset Inventory > Service Account"에서 provider 및 Service Account를 확인할 수 있습니다.ProviderCloudforet에서 provider는 다양한 리소스를 그룹화하..

R&D/클라우드 2024.06.19

Llama3 prompt template

Prompt template 을 어떻게 작성하느냐에 따라 결과값은 상당히 다르다. 또한 각 모델별로 prompt template 형식도 전혀 다르다.Llama3 의 Prompt Template에 따른 결과값의 차이가 얼만큼 다른지 테스트 해보자.Llama3를 local PC에 설치하려면 간단하게 Ollama를 활용하면 된다.Llama3 설치 ollama run llama3:instructLlama3 의 템플릿 형식https://llama.meta.com/docs/model-cards-and-prompt-formats/meta-llama-3/ Meta Llama 3 | Model Cards and Prompt formatsSpecial Tokens used with Meta Llama 3. A prompt..

R&D/AI 2024.04.29

AWS Spot Instance 중단 대응

Amazon EC2 Spot Instance는 언제든 종료될 수 있다는 가정을 가지고 사용해야 합니다.Spot Instance Lice CycleSpot Instance는 다음과 같은 Life Cycle을 가지고 있습니다.* Spot Instance가 Terminate 되기 2분 전에 Interruption notice가 발생합니다.* 그리고 15분부터 "Rebalance recommendation" 이벤트가 발생합니다.   . Rebalance recommendation 는 항상 spot instance terminate 2분 공지보다 먼저 발생하는 것은 아니라고 합니다. Interruption notice와 함께 도착할 수도 있고, 이후에 도착할 수도 있다고 합니다.   . Rebalance reco..

R&D/클라우드 2024.04.25

Cloudforet 에서의 multi-tenant

멀터테넌트 아키텍처는 단일 애플리케이션 인스턴스 여러 고객(Tenant, in Cloudforet = Domain)이 공유하여 사용하는 소프트웨어 설계 방식 입니다. 이를 통해 자원 활용도를 높이고, 운영 비용을 절감하는 방식으로 SaaS 소프트웨어서 핵심 개발 컨셉으로 사용됩니다. 멀티테넌트 서비스를 제공하기 위한 방식 방식은 URL 기반으로 제공하는 경우입니다. 예를 들어 고객1(company1)과 고객2(company2)가 있을 때, 고객 1 의 접속주소 https://company1.console.example.com 고객2 의 접속주소 https://company2.console.example.com How to create new tenant in Cloudforet? 1. domain 생성..

R&D/클라우드 2024.04.16

FAISS(Facebook AI Similarity Search) 소개

Faiss는 Facebook AI Research에서 개발한 강력한 라이브러리로, 밀집 벡터의 효율적인 유사도 검색과 클러스터링을 가능하게 합니다. 이미지 검색부터 텍스트 분류와 클러스터링에 이르기까지 다양한 애플리케이션에서 개발자들 사이에서 인기를 얻고 있습니다. Faiss 이해하기 Faiss는 고차원 공간에서의 유사도 검색과 클러스터링을 위한 효율적인 솔루션을 제공하는 라이브러리입니다. 멀티미디어 문서의 임베딩 간 유사도 검색을 빠르게 수행할 수 있게 해줍니다. Faiss 자체는 벡터 데이터베이스가 아니라, 벡터 기반 검색 엔진과 애플리케이션을 구축하는 데 사용되는 기반 라이브러리입니다. Faiss의 주요 기능 효율적인 유사도 검색: Faiss는 고차원 벡터 데이터에 대한 빠른 유사도 검색을 위해 최..

R&D/AI 2024.04.05