meng shao(@shao__meng)의 스레드

[오픈 소스 권장 사항] Memori: LLM, 에이전트 및 다중 에이전트 시스템을 위해 특별히 설계된 오픈 소스 SQL 네이티브 메모리 엔진입니다. memory.enable()이라는 단 한 줄의 코드만으로 모든 LLM에 대해 지속적이고 쿼리 가능한 메모리 저장소를 제공하여 AI 시스템이 대화를 기억하고, 상호작용을 통해 학습하며, 세션 간 맥락적 연속성을 유지할 수 있도록 지원합니다. 핵심 가치와 특성 Memori의 핵심은 AI 메모리 관리를 간소화하는 것입니다. Memori는 사용자가 완전히 소유하고 감사할 수 있는 표준 SQL 데이터베이스(예: SQLite, PostgreSQL, MySQL, Neon 또는 Supabase)에 메모리를 저장합니다. 기존 벡터 스토리지와 달리 Memori는 SQL의 전체 텍스트 검색 인덱스를 활용하여 효율적인 검색을 수행하는 동시에 지능형 엔티티 추출, 관계 매핑 및 우선순위 정렬을 통해 메모리의 관련성과 유용성을 보장합니다. 주요 특징은 다음과 같습니다. • 원라인 통합: OpenAI, Anthropic, LiteLLM, LangChain, Azure OpenAI 및 100개 이상의 LiteLLM 지원 모델과 완벽하게 호환됩니다. • 지능형 메모리 처리: 엔티티(사실, 선호도, 기술, 규칙, 맥락 등)를 자동으로 추출하여 범주에 저장합니다. • 다중 메모리 모드: • 의식: 핵심 기억을 한 번 주입하는 것. • 자동 모드(Auto): 쿼리를 기반으로 관련 메모리를 동적으로 검색합니다. • 조합 모드: 두 가지를 함께 사용합니다. • 백그라운드 최적화: 의식이 있는 지능형 에이전트는 6시간마다 실행되어 장기 저장소에서 주요 메모리를 추출하여 단기 저장소에 저장함으로써 AI의 "장기 학습" 능력을 보장합니다. • 통합 생태계: AgentOps, AutoGen, CrewAI, Swarms와 같은 프레임워크를 지원하며, 개인 일기 비서, 연구원 에이전트 등의 대화형 데모가 이미 제공됩니다. 작동 원리 Memori는 인터셉터 아키텍처를 사용하여 LLM 호출 흐름을 투명하게 래핑합니다. 1. 호출 전 단계(컨텍스트 주입): LLM이 응답을 생성하기 전에 검색된 에이전트 또는 의식 있는 에이전트가 SQL 데이터베이스에서 관련 메모리를 가져와 프롬프트에 주입합니다. 2. 통화 후 단계(녹음 및 검색): 응답이 반환된 후 메모리 에이전트는 대화를 분석하고, 새로운 정보를 추출 및 분류하여 데이터베이스에 저장합니다. 3. 백그라운드 처리: 의식 에이전트는 패턴을 분석하고 메모리 우선순위를 최적화하기 위해 주기적으로 실행됩니다. 전체 시스템은 네 가지 핵심 구성 요소, 즉 Memori 인터셉터(호출 조정), 검색/의식/기억 에이전트(데이터 처리), 그리고 SQL 데이터베이스(영구 저장소)에 의존합니다. 이러한 모듈식 설계는 효율성과 확장성을 보장합니다. 오픈소스 주소: