meng shao(@shao__meng)의 스레드

[오픈 소스 추천] TurboSeek: @nutlope가 작성한 @togethercompute의 공식 문서를 기반으로 한 오픈 소스 AI 검색 엔진입니다. 핵심 기능 및 구성 요소 TurboSeek는 검색과 생성이라는 두 가지 주요 모듈을 중심으로 간단하고 효율적인 디자인을 갖추고 있습니다. • 웹 검색: @ExaAILabs API를 통합하여 제목, URL, 주요 콘텐츠를 포함하여 인터넷에서 최대 9개의 관련 웹 페이지 소스를 크롤링할 수 있습니다. 이를 통해 모델의 "환상"이 아닌 실시간으로 제공되는 신뢰할 수 있는 외부 데이터를 기반으로 답변을 제공합니다. • 에이전트(LLM 코어): Together AI의 오픈소스 모델을 에이전트로 활용하여 검색된 맥락을 분석하고 자연스럽고 유창한 응답을 합성합니다. 에이전트는 독립적인 개체가 아니라 백엔드 로직에 내장되어 사실 기반 요약에 중점을 둡니다. • 통합 도구: 프런트엔드는 Next.js + Tailwind를 사용하여 사용자 인터페이스를 구축하고 백엔드는 Next.js API 경로를 통해 요청을 처리합니다. 외부 종속성에는 Together AI SDK(모델 호출용) 및 Exa API(검색용)가 포함됩니다. 이 아키텍처는 프런트엔드와 백엔드를 분리하는 방식을 채택합니다. 1. 사용자 질문: 프런트 엔드의 텍스트 상자에 질문을 입력하고 제출을 클릭하세요. 2. 검색 소스: 백엔드는 Exa API를 호출하여 검색하고 9개의 웹 페이지 조각을 반환합니다(각 콘텐츠는 과부하를 방지하기 위해 처음 10,000자로 제한됩니다). 3. 지능형 생성: 지능형 에이전트에 질문과 출처를 입력하고, 시스템 프롬프트를 통해 "제공된 맥락에 따라서만 답변"하도록 안내합니다. 출력은 스트리밍되어 답변이 인터페이스에 점진적으로 표시되어 상호작용 경험을 향상시킵니다. 4. 결과 표시: 프런트 엔드는 소스 링크와 함께 실시간으로 답변 텍스트를 표시하여 사용자 검증을 용이하게 합니다. Together AI 문서