View a markdown version of this page

에이전트 메모리용 ElastiCache for Valkey를 사용하는 이유 - Amazon ElastiCache

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

에이전트 메모리용 ElastiCache for Valkey를 사용하는 이유

ElastiCache for Valkey는 에이전트 메모리의 스토리지 계층으로 적합한 몇 가지 기능을 제공합니다.

  • 밀리초 미만의 지연 시간 - ElastiCache for Valkey는 메모리 작업에 마이크로초 수준의 지연 시간을 제공하므로 메모리 조회가 사용자 경험에 감지할 수 있는 지연 시간을 추가해서는 안 되는 실시간 에이전트 상호 작용에 적합합니다.

  • 벡터 유사성 검색 - Valkey 버전 8.2부터 ElastiCache는 valkey-search 모듈을 통한 벡터 유사성 검색을 지원합니다. 이를 통해 의미 체계 메모리 검색이 가능하므로 에이전트는 정확한 키워드 일치가 아닌 의미에 따라 관련 메모리를 찾을 수 있습니다.

  • 실시간 인덱스 업데이트 - 새 메모리는 작성 후 즉시 검색할 수 있습니다. 이는 에이전트가 동일한 세션 내에 몇 분 전에 저장한 정보를 리콜해야 할 수 있는 에이전트 애플리케이션에 매우 중요합니다.

  • 기본 제공 캐시 관리 - TTL(Time to Live), 제거 정책(allkeys-lru) 및 원자성 작업과 같은 기능은 메모리 수명 주기를 관리하는 데 도움이 됩니다.

  • 다중 데이터 구조 - Valkey는 각각 서로 다른 메모리 패턴에 최적화된 해시, 목록, 문자열, 스트림, JSON 및 벡터를 제공합니다. 단일 ElastiCache 인스턴스는 세션 상태(해시), 대화 기록(목록), 도구 결과 캐싱(TL이 있는 문자열), 이벤트 로그(스트림) 및 의미 체계 메모리(벡터)를 지원할 수 있습니다.

  • 확장성 - ElastiCache는 일관되게 짧은 지연 시간으로 수백만 개의 요청을 처리하도록 규모를 조정하여 동시 사용자 및 에이전트가 많은 애플리케이션을 지원합니다.