[카테고리:] AI
-
LangFlow 완전 가이드: 설치부터 프로덕션 배포까지
LangFlow 소개 LangFlow는 AI 애플리케이션을 시각적 인터페이스로 빠르게 프로토타이핑하고 구축할 수 있는 강력한 로우코드 플랫폼입니다. 특히 에이전트(Agent) 기반 시스템과 RAG(Retrieval-Augmented Generation) 애플리케이션 개발에 특화되어 있습니다. 주요 특징 설치 환경 및 요구사항 시스템 요구사항 선택적 도구 설치 방법 1. pip를 이용한 설치 (권장) 가장 간단한 설치 방법입니다: # 기본 설치 pip install langflow # 특정 버전…
-
구글의 Opal: 코딩 없이 AI 미니 앱을 만드는 혁신적인 워크플로우 도구
AI 기술이 급속도로 발전하면서, 일반 사용자들도 복잡한 프로그래밍 지식 없이 AI의 힘을 활용할 수 있는 도구에 대한 수요가 증가하고 있습니다. 구글이 새롭게 선보인 Opal은 바로 이런 니즈를 충족하는 실험적인 플랫폼으로, 자연어와 시각적 편집만으로 강력한 AI 미니 앱을 구축할 수 있게 해주는 혁신적인 서비스입니다. Opal이란 무엇인가? Opal은 구글 랩스(Google Labs)에서 개발한 실험적 도구로, 사용자가 자연어 설명만으로…
-
Cogency: 필요한 만큼 생각하는 스마트 AI 에이전트
AI 에이전트 기술이 빠르게 발전하면서 개발자들은 더 직관적이고 효율적인 도구를 찾고 있습니다. 그 중심에 Cogency가 있습니다. 단 3줄의 코드로 구현 가능한 이 AI 에이전트는 작업의 복잡성에 따라 사고 깊이를 자동으로 조절하는 기능을 제공합니다. Cogency란 무엇인가? Cogency는 “필요한 만큼 생각하는 스마트 AI 에이전트”라는 슬로건을 내세운 AI 프레임워크입니다. (이전 슬로건은 ‘3줄로 작동하는 AI 에이전트’이었습니다. 역시 3줄로는 무리였나봅니다.…
-
LocalAI: 프라이버시를 지키며 AI 모델을 로컬에서 실행하는 완벽한 솔루션
AI 기술이 발전함에 따라 개인 정보 보호와 데이터 주권에 대한 관심이 높아지고 있습니다. 이러한 요구에 부응하여 등장한 LocalAI는 AI 모델을 로컬 환경에서 실행할 수 있게 해주는 오픈소스 솔루션입니다. LLM서비스가 필수이지만, 기업의 보안 측면을 위해 자체 LLM에대한 요구가 더 확고해지는것 같습니다. 다만, 자체 LLM을 위한 성능과 리소스의 최적화된 해결책은 아직 뚜렷하게 보이지는 않는것 같습니다. 완벽하게는 아니더라도…
-
Text Generation Inference(TGI): LLM 서비스를 위한 최적화 솔루션 소개
대규모 언어 모델(LLM)을 실제 서비스에 적용하려면 단순히 모델을 불러오는 것 이상의 작업이 필요합니다. 효율적인 추론, 안정적인 서빙, 그리고 최적화된 성능을 위한 인프라 구축이 중요한데요. 오늘은 이러한 요구사항을 충족시키는 Hugging Face의 Text Generation Inference(TGI)에 대해 알아보겠습니다. TGI란 무엇인가? Text Generation Inference(TGI)는 대규모 언어 모델(LLM)을 배포하고 서빙하기 위한 오픈소스 툴킷입니다. 허깅페이스(Hugging Face)가 개발한 TGI는 LLM을 프로덕션 환경에서…
-
LangConnect Client: 벡터 DB 관리를 위한 직관적인 GUI 인터페이스
지난번 LangConnect 에 대해서 포스트하였습니다. 최근 유튜브에서 TeddyNote 님이 공개한 영상에 언급한 LangConnect 에 GUI를 추가한 Client에 대한 영상 소개가 있어서 보자마자 바로 설치 및 사용을 해봤습니다. LangConnect Client는 PostgreSQL과 pgvector 확장을 기반으로 한 벡터 데이터베이스를 관리하기 위한 직관적인 웹 인터페이스를 제공합니다. 이 Next.js 기반 GUI 도구는 문서 관리, 벡터 검색 기능, 그리고 Model Context…
-
Agent Squad: 복잡한 대화를 위한 다중 AI 에이전트 오케스트레이션 프레임워크
오늘날 인공지능 기술이 발전함에 따라 단일 AI 에이전트로는 해결하기 어려운 복잡한 문제들이 많아지고 있습니다. 이러한 문제를 해결하기 위해 여러 전문 AI 에이전트를 조율하여 함께 작업할 수 있게 하는 오픈소스 프레임워크인 ‘Agent Squad’를 소개합니다. Agent Squad는 이전에 ‘Multi-Agent Orchestrator’로 알려졌던 프레임워크로, 복잡한 대화를 처리하기 위한 유연하고 가벼운 오픈소스 솔루션입니다. Agent Squad의 주요 특징 Agent Squad란 무엇인가?…
-
Agent() vs create_react_agent() : 에이전트 생성 차이
두 코드는 AI 에이전트(Agent)를 생성한다는 공통점이 있지만, 어떤 프레임워크를 사용하고 얼마나 추상화되어 있는지에서 근본적인 차이가 있습니다. 간단히 말해, 첫 번째 코드는 OpenAI의 Assistants API와 같이 모든 것이 준비된 고수준의 서비스를 사용하는 방식이고, 두 번째 코드는 LangChain과 같이 개발자가 직접 제어하며 조립하는 방식입니다. agent = Agent(…) 이 코드는 OpenAI Assistants API 또는 그와 유사한 고수준(High-level) 프레임워크일…
-
LangConnect: LangChain 기반의 효율적인 RAG 서비스
LangConnect는 FastAPI와 LangChain, Python을 기반으로 구축된 RAG(Retrieval-Augmented Generation) 서비스입니다. 이 서비스는 컬렉션과 문서를 관리하기 위한 REST API를 제공하며, PostgreSQL과 pgvector를 사용하여 벡터 저장소를 구현합니다. https://github.com/langchain-ai/langconnect 주요 기능 시작하기 사전 요구사항 Docker를 사용한 실행 방법 1. 저장소 클론하기: git clone https://github.com/langchain-ai/langconnect.git cd langconnect 2. 서비스 시작하기: docker-compose up -d 이 명령어는 다음과 같은 작업을 수행합니다: 3.…