[태그:] astream
-
langchain, astream() vs ainvoke()
langchain을 이용한 chat client를 만들다보면, 이 두개 함수의 차이를 크게 느끼는데, 똑같은 로직에서 함수만 다르게 쓰는데도 응답 품질에 큰 차이가 발생됩니다. 지금부터 이 두개 함수의 차이에 대한 포스팅을 하겠습니다. ainvoke()와 astream()은 LangChain 라이브러리에서 사용되는 두 가지 주요 비동기 실행 함수입니다. 이 둘의 가장 큰 차이점은 결과를 반환하는 방식에 있습니다. ainvoke() ainvoke()는 단일 결과를 비동기적으로 반환합니다.…