[카테고리:] IT

  • dots.ocr: 놀라운 성능의 차세대 다국어 문서 parser

    dots.ocr: 놀라운 성능의 차세대 다국어 문서 parser

    오늘 기술 파트너 회사와 미팅이 있었습니다. 문서 추출에 대해서 꽤 기술력이 있는 회사여서 관심있게 제품에 대한 소개를 받았습니다. 문서로 부터 데이터를 추출하고, 정제하여 데이터베이스를 구축하는 제품을 가지고 있었습니다. 논문이나 공공기관의 문서의 경우 일관된 형식을 가지고 있기 때문에 형식에 맞는 패턴을 인식하면, 문서로 부터 텍스트를 추출하더라도 정보의 계층구조를 포함된 정보를 가져올수 있는 매우 획기적인 기술이었습니다. 그것을…

  • SGLang: LLM 서빙 프레임워크 리뷰

    SGLang: LLM 서빙 프레임워크 리뷰

    2024년부터 2025년에 이르기까지 대규모 언어 모델(LLM)의 활용이 급격히 확산되면서, 단순한 일회성 질의응답을 넘어선 복잡하고 구조화된 워크플로우의 필요성이 대두되었습니다. LangChain, vLLM과 같은 기존 도구들이 존재하지만, 실제 프로덕션 환경에서 다단계 추론, 병렬 처리, 구조화된 출력을 요구하는 애플리케이션을 구축할 때 여러 제한사항에 부딪히게 됩니다. 이러한 문제를 해결하기 위해 등장한 SGLang은 단순한 서빙 백엔드나 프롬프트 래퍼가 아닌, LLM 워크플로우를…

  • [Nuxt.js-8] Nuxt.js  서버 엔진 (Server engine)  활용

    [Nuxt.js-8] Nuxt.js 서버 엔진 (Server engine) 활용

    Nuxt.js의 8번째 포스트입니다. 지난 번에는 Pinia를 활용한 상태 관리 과정을 살펴보았는데요. 이번에는 Nuxt.js의 강력한 기능 중 하나인 서버 엔진(Server engine)를 활용하여 자체 API 엔드포인트를 구축하는 방법에 대해 알아보겠습니다. Nitro 서버 엔진 소개 Nuxt 3부터는 Nitro라는 강력한 서버 엔진이 내장되어 있습니다. Nitro는 Nuxt의 서버 사이드 로직을 처리하는 엔진으로, 다음과 같은 특징을 가지고 있습니다: 이러한 Nitro 엔진을…

  • LibreChat 완전 리뷰: 멀티 AI 모델 챗봇 클라이언트

    LibreChat 완전 리뷰: 멀티 AI 모델 챗봇 클라이언트

    개요 LibreChat은 ChatGPT의 향상된 클론으로, OpenAI의 ChatGPT 기술과 차세대 AI 어시스턴트들을 하나로 결합한 완전한 오픈소스 프로젝트입니다. 이 프로젝트는 단순히 ChatGPT를 모방하는 것을 넘어서, 다양한 AI 모델을 통합하고 원래 클라이언트의 기능들을 개선하며 확장한 종합적인 AI 챗봇 플랫폼을 제공합니다. 전 세계 수천 개의 조직에서 신뢰받고 있으며 Boston University와 같은 주요 기관들이 사용하고 있어, 그 안정성과 실용성이 검증된…

  • [Nuxt.js-7] Nuxt.js  상태 관리 심화 (Pinia)

    [Nuxt.js-7] Nuxt.js 상태 관리 심화 (Pinia)

    안녕하세요, Nuxt.js 7번째 포스트입니다! 지난 번에는 Nuxt의 기본적인 상태 관리 방법인 useState에 대해 알아보았습니다. 이번 시간에는 대규모 애플리케이션에서 효과적으로 상태를 관리할 수 있는 Pinia에 대해 알아보겠습니다. 1. Pinia란 무엇인가? Pinia는 Vue 생태계의 공식 상태 관리 라이브러리로, Vue 3와 함께 사용하도록 설계되었습니다. 기존의 Vuex를 대체하는 차세대 상태 관리 도구로, 더 간단한 API와 타입스크립트 지원, 더 나은…

  • [Nuxt.js-6] 상태 관리(State Management)와 useState

    [Nuxt.js-6] 상태 관리(State Management)와 useState

    Nuxt.js 여섯번째 포스팅입니다. 지난 번에는 데이터 가져오기(Data Fetching)에 대해 알아보았는데요, 이번 시간에는 Nuxt.js에서 상태 관리를 어떻게 할 수 있는지, 특히 useState 컴포저블을 활용한 방법에 대해 자세히 알아보겠습니다. 상태 관리(State Management)란? 웹 애플리케이션이 복잡해질수록 여러 컴포넌트 간에 데이터를 공유하고 관리하는 것이 중요해집니다. 이러한 데이터를 ‘상태(State)’라고 부르며, 이 상태를 효율적으로 관리하는 방법을 ‘상태 관리’라고 합니다. 프로젝트에서는 사용자가…

  • LangFlow 완전 가이드: 설치부터 프로덕션 배포까지

    LangFlow 완전 가이드: 설치부터 프로덕션 배포까지

    LangFlow 소개 LangFlow는 AI 애플리케이션을 시각적 인터페이스로 빠르게 프로토타이핑하고 구축할 수 있는 강력한 로우코드 플랫폼입니다. 특히 에이전트(Agent) 기반 시스템과 RAG(Retrieval-Augmented Generation) 애플리케이션 개발에 특화되어 있습니다. 주요 특징 설치 환경 및 요구사항 시스템 요구사항 선택적 도구 설치 방법 1. pip를 이용한 설치 (권장) 가장 간단한 설치 방법입니다: # 기본 설치 pip install langflow # 특정 버전…

  • [Nuxt.js-5] Nuxt.js 데이터 가져오기 (Data Fetching)

    [Nuxt.js-5] Nuxt.js 데이터 가져오기 (Data Fetching)

    지난 포스팅에는 에셋과 정적 파일 관리에 대해 알아보았는데요, 이번에는 Nuxt.js의 핵심 기능 중 하나인 데이터 가져오기(Data Fetching)에 대해 자세히 알아보겠습니다. 웹 애플리케이션에서 외부 API와의 연동은 필수적인 요소입니다. Nuxt.js는 이러한 데이터 가져오기를 위한 강력하고 직관적인 도구들을 제공하는데, 오늘은 그 중에서도 useFetch와 useAsyncData를 중심으로 살펴보겠습니다. 1. Nuxt.js의 데이터 가져오기 특징 Nuxt.js의 데이터 가져오기 기능은 다음과 같은 특징을…

  • [Nuxt.js-4] Nuxt.js 에셋(Assets) 및 정적 파일(Public) 관리

    [Nuxt.js-4] Nuxt.js 에셋(Assets) 및 정적 파일(Public) 관리

    지난 포스팅에는 레이아웃과 컴포넌트에 대해 설명했는데요, 이번에는 웹 애플리케이션 개발에 필수적인 정적 리소스 관리 방법에 대해 알아보겠습니다. 이미지, CSS, 폰트 등의 리소스를 효율적으로 관리하는 방법과 Nuxt.js에서 제공하는 assets과 public 디렉토리의 차이점을 이해하고, 실제 프로젝트에 적용하는 방법을 배워보겠습니다. 1. 에셋(Assets)과 정적 파일(Public)의 차이 Nuxt.js에서는 정적 파일을 관리하기 위한 두 가지 주요 디렉토리를 제공합니다: assets와 public. 이…