Dify란?
앞서 다양한 Agent를 사용한 Workflow도구들이 많이 소개했었는데요. 이번에 매우 직관적이고, 간단하게 AI 어플리케이션 개발에 필요한 백엔드 도구가 있어서 소개하려고 합니다.
바로 Dify 인데요.
Dify는 프로덕션 수준의 AI 에이전트 워크플로우를 구축하기 위한 오픈소스 플랫폼입니다. 이름 Dify는 “Do It For You”의 약자로, 복잡한 AI 애플리케이션 개발 과정을 단순화하고 자동화하겠다는 플랫폼의 철학을 담고 있습니다.
공식출시는 2023년 5월9일입니다. 클라우드 버전이 출시 되었고, 몇일 후 5월 19일 Github에 공개되었습니다.
직관적인 비주얼 인터페이스를 통해 AI 워크플로우를 설계하고, RAG 파이프라인을 구축하며, 에이전트 기능을 통합하고, 모델을 관리할 수 있습니다. 개발자는 프로토타입에서 프로덕션까지 빠르게 전환할 수 있으며, 코드를 직접 작성하지 않고도 강력한 AI 애플리케이션을 만들 수 있습니다.
주요 특징
1. 비주얼 워크플로우 빌더
Dify의 가장 큰 강점은 드래그 앤 드롭 방식의 비주얼 캔버스입니다. 복잡한 AI 워크플로우를 시각적으로 설계하고 테스트할 수 있어, 개발 시간을 대폭 단축할 수 있습니다. 각 노드를 연결하여 데이터 흐름을 구성하고, 실시간으로 결과를 확인하며 디버깅할 수 있습니다.
2. 포괄적인 모델 지원
GPT, Mistral, Llama3를 포함한 수백 개의 독점/오픈소스 LLM을 지원합니다. 수십 개의 추론 제공업체 및 자체 호스팅 솔루션과 원활하게 통합되며, OpenAI API와 호환되는 모든 모델을 사용할 수 있습니다.
3. 프롬프트 IDE
프롬프트를 작성하기 위한 직관적인 인터페이스를 제공합니다. 텍스트 음성 변환과 같은 추가 기능을 채팅 기반 앱에 쉽게 추가할 수 있습니다.
4. RAG 파이프라인
문서 수집부터 검색까지 광범위한 RAG 기능을 제공합니다. PDF, PPT 및 기타 일반 문서 형식에서 텍스트 추출을 기본적으로 지원하여, 문서 기반 AI 애플리케이션을 손쉽게 구축할 수 있습니다.
5. 에이전트 기능
LLM Function Calling 또는 ReAct를 기반으로 에이전트를 정의하고, 사전 구축되거나 사용자 정의 도구를 추가할 수 있습니다. Google Search, DALL·E, Stable Diffusion, WolframAlpha 등 50개 이상의 내장 도구를 AI 에이전트에 제공합니다.
6. Backend-as-a-Service
Dify의 모든 기능은 해당 API와 함께 제공되므로, 자체 비즈니스 로직에 Dify를 손쉽게 통합할 수 있습니다.
핵심 개념
애플리케이션 타입
Dify는 용도에 따라 두 가지 주요 앱 타입을 제공합니다:
Workflow (워크플로우) 단일 턴 작업을 처리하는 애플리케이션입니다. 웹앱 인터페이스와 API를 통해 여러 작업을 일괄 실행할 수 있습니다. 워크플로우는 Dify의 다른 모든 앱 타입의 기반이 되며, 사용자 입력 또는 트리거를 통해 시작할 수 있습니다.
Chatflow (챗플로우) 대화의 매 턴마다 실행되는 특별한 워크플로우 타입입니다. 워크플로우 기능 외에도 대화별 사용자 정의 변수를 저장 및 업데이트하고, LLM 노드에서 메모리를 활성화하며, 챗플로우 실행 중 다양한 시점에 포맷된 텍스트, 이미지, 파일을 스트리밍할 수 있습니다.
사이트 내 챗봇 생성을 할수 있습니다. 웹사이트 임베드 하기 위한 코드를 생성해서 HTML에 붙여넣기만 하면 됩니다.
변수 시스템
Dify는 다양한 유형의 변수를 통해 데이터를 관리합니다:
- 입력 변수: 사용자가 채워야 할 입력 필드
- 출력 변수: 각 노드가 생성하는 결과물
- 환경 변수: API 키와 같은 민감한 정보 저장
- 대화 변수 (Chatflow 전용): 대화 세션 내에서 지속되는 동적 정보
변수는 / 슬래시를 입력하여 드롭다운에서 선택하거나, 입력 필드에서 직접 선택하여 쉽게 참조할 수 있습니다.
빠른 시작
Docker Compose로 설치하기
Dify 서버를 시작하는 가장 쉬운 방법은 Docker Compose를 사용하는 것입니다. 최소 시스템 요구사항은 CPU 2코어 이상, RAM 4GB 이상입니다.
cd dify
cd docker
cp .env.example .env
docker compose up -d
실행 후 브라우저에서 http://localhost/install에 접속하여 초기화 프로세스를 시작할 수 있습니다.
사용 방법
클라우드 버전
Dify는 누구나 제로 설정으로 사용할 수 있는 Dify Cloud 서비스를 호스팅하고 있습니다. 샌드박스 플랜에는 200개의 무료 GPT-4 호출이 포함되어 있습니다.
자체 호스팅
오픈소스 커뮤니티 에디션을 자신의 환경에 빠르게 배포할 수 있습니다. Docker, Kubernetes, AWS, Google Cloud, Azure 등 다양한 배포 옵션을 지원합니다.
엔터프라이즈 버전
기업 및 조직을 위한 추가 기능을 제공합니다. 자세한 사항은 이메일(hello@dify.ai)을 통해 문의할 수 있습니다.
고급 설정
Kubernetes 배포
고가용성 설정을 원한다면, 커뮤니티에서 기여한 Helm Charts와 YAML 파일을 사용하여 Kubernetes에 Dify를 배포할 수 있습니다.
Terraform을 통한 배포
Azure Global, Google Cloud, AWS 등 주요 클라우드 플랫폼에서 Terraform을 사용한 원클릭 배포를 지원합니다.
Grafana 모니터링
Dify의 PostgreSQL 데이터베이스를 데이터 소스로 사용하여 Grafana 대시보드에서 앱, 테넌트, 메시지 등의 세밀한 메트릭을 모니터링할 수 있습니다.
커뮤니티 및 지원
Dify는 활발한 오픈소스 커뮤니티를 보유하고 있습니다:
- GitHub: 119,000개 이상의 스타, 1,048명 이상의 컨트리뷰터
- Discord: 실시간 커뮤니티 지원
- GitHub Discussions: 피드백 공유 및 질문
- GitHub Issues: 버그 보고 및 기능 제안
보안
개인정보 보호를 위해 GitHub에 보안 문제를 게시하지 말고, security@dify.ai로 문제를 보고하면 팀이 자세한 답변을 제공합니다.
라이선스
이 저장소는 Apache 2.0을 기반으로 추가 조건이 있는 Dify Open Source License에 따라 라이선스가 부여됩니다.
결론
Dify는 AI 애플리케이션 개발의 진입 장벽을 크게 낮추는 혁신적인 플랫폼입니다. 비주얼 인터페이스, 포괄적인 모델 지원, 강력한 RAG 및 에이전트 기능을 통해 개발자는 복잡한 코딩 없이도 프로덕션 수준의 AI 애플리케이션을 빠르게 구축할 수 있습니다.
오픈소스 커뮤니티의 활발한 지원과 지속적인 업데이트를 통해 Dify는 AI 애플리케이션 개발의 새로운 표준으로 자리잡고 있습니다. 클라우드 버전으로 빠르게 시작하거나, 자체 서버에 배포하여 완전한 제어권을 가질 수 있어 다양한 요구사항을 충족할 수 있습니다.
AI 애플리케이션 개발을 시작하고 싶다면, Dify로 시작해보세요!
참고 링크
- GitHub: https://github.com/langgenius/dify
- 공식 문서: https://docs.dify.ai
- Dify Cloud: https://cloud.dify.ai
답글 남기기