本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。 # TwelveLabs Marengo Embed 3.0 该TwelveLabs Marengo Embed 3.0模型根据视频、文本、音频或图像输入生成增强的嵌入效果。最新版本提高了相似度搜索、聚类和其他机器学习任务的性能和准确性。 + 提供商 – TwelveLabs + 模型 ID – twelvelabs.marengo-embed-3-0-v1:0 Marengo Embed 3.0 提供了几项关键增强功能： + **扩展的视频处理能力**-最多可处理 4 小时的视频和音频内容。文件容量最高可达 6 GB，是先前版本的两倍。这使得它非常适合分析完整的体育赛事、扩展的训练视频和完整的电影制作。 + **增强的运动分析**-该模型提供了显著的改进。它可以更好地了解游戏动态、玩家动作和事件检测。 + **全球多语言支持**-将语言功能从 12 种扩展到 36 种语言。这使全球组织能够建立统一的搜索和检索系统，在不同的地区和市场上无缝运行。 + **多模态搜索精度**-在单个嵌入请求中合并图像和描述性文本。这将视觉相似性与语义理解相结合，从而提供更准确且与上下文相关的搜索结果。 + **减少嵌入尺寸**-从 1024 减少到 512，这有助于降低存储成本。 TwelveLabs Marengo Embed 3.0 模型支持下表中列出的 Amazon Bedrock 运行时操作。 + 有关不同 API 方法的使用案例的更多信息，请参阅[了解不同模型推理方法的使用案例不同的推理方法](inference-methods.md)。 + 有关模型类型的更多信息，请参阅 [Amazon Bedrock 中推理的工作原理推理的工作原理](inference-how.md)。 + 要查看模型列表 IDs 以及中支持的模型和AWS区域TwelveLabs Marengo Embed 3.0，请在表格中搜索模型[Amazon Bedrock 中支持的根基模型](models-supported.md)。 + 有关推理配置文件的完整列表 IDs，请参阅[支持推理配置文件的区域和模型](inference-profiles-support.md)。推理配置文件 ID 基于AWS区域。 **** | API 操作 | 受支持的模型类型 | 输入模式 | 输出模态 | | --- | --- | --- | --- | | InvokeModel | 美国东部（弗吉尼亚北部）-[基础模型](models-supported.md)和[推理配置文件](inference-profiles-support.md) 欧洲（爱尔兰）-[推理概况](inference-profiles-support.md) 亚太地区（首尔）-[基本模型](models-supported.md) | 文本 Image **注意：**还支持文本和图像交错。 | 嵌入 | | StartAsyncInvoke | [基础模型](models-supported.md) | 视频 音频 Image 文本 **注意：**还支持文本和图像交错。 | 嵌入 | **注意** 使用 `InvokeModel` 可为搜索查询生成嵌入。使用 `StartAsyncInvoke` 可为大规模资源生成嵌入。 以下配额适用于输入： **** | 输入模态 | 最大值 | | --- | --- | | 文本 | 500 个代币 | | Image | 每张图片 5 MB | | 视频（S3） | 6 GB，时长 4 小时 | | 音频（S3） | 6 GB，时长 4 小时 | **注意** 如果您使用 base64 编码以内联方式定义音频或视频，请确保请求正文有效载荷不超过 Amazon Bedrock 的 25 MB 模型调用配额。 **Topics** + [TwelveLabs Marengo Embed 3.0 请求参数](#model-parameters-marengo-3-async-request) + [TwelveLabs Marengo Embed 3.0 响应](#model-parameters-marengo-3-response) + [TwelveLabs Marengo Embed 3.0 代码示例](#model-parameters-marengo-3-examples) ## TwelveLabs Marengo Embed 3.0 请求参数 当您发出请求时，指定模型特定输入的字段因 API 操作而异： + [InvokeModel](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModel.html)— 在请求中`body`。 + [StartAsyncInvoke](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_StartAsyncInvoke.html)— 在请求正文的`modelInput`字段中。 模型输入的格式取决于输入模态： ------ #### [ Text ] ``` { "inputType": "text", "text": { "inputText": "string" } } ``` ------ #### [ Image ] ``` { "inputType": "image", "image": { "mediaSource": { "base64String": "base64-encoded string", // base64String OR s3Location, exactly one "s3Location": { "uri": "s3://amzn-s3-demo-bucket/folder/dog.jpg", "bucketOwner": "123456789012" } } } } ``` ------ #### [ Text & image ] ``` { "inputType": "text_image", "text_image": { "inputText": "man walking a dog", "mediaSource": { "base64String": "base64-encoded string", // base64String OR s3Location, exactly one "s3Location": { "uri": "s3://amzn-s3-demo-bucket/folder/dog.jpg", "bucketOwner": "123456789012" } } } } ``` ------ #### [ Audio ] ``` { "inputType": "audio", "audio": { "mediaSource": { "base64String": "base64-encoded string", // base64String OR s3Location, exactly one "s3Location": { "uri": "s3://amzn-s3-demo-bucket/audio/a.wav", "bucketOwner": "123456789012" } }, "startSec": 0, "endSec": 6, "segmentation": { "method": "fixed", "fixed": { "durationSec": 6 } }, "embeddingOption": [ "audio", "transcription" ], // optional, default=both "embeddingScope": [ "clip", "asset" ] // optional, one or both } } ``` ------ #### [ Video ] ``` { "inputType": "video", "video": { "mediaSource": { "base64String": "base64-encoded string", // base64String OR s3Location, exactly one "s3Location": { "uri": "s3://amzn-s3-demo-bucket/video/clip.mp4", "bucketOwner": "123456789012" } }, "startSec": 0, "endSec": 6, "segmentation": { "method": "dynamic", // dynamic OR fixed, exactly one "dynamic": { "minDurationSec": 4 } "method": "fixed", "fixed": { "durationSec": 6 } }, "embeddingOption": [ "visual", "audio", "transcription" ], // optional, default=all "embeddingScope": [ "clip", "asset" ] // optional, one or both }, "inferenceId": "some inference id" } ``` ------ 展开以下各个部分，查看有关输入参数的详细信息： ### inputType 嵌入的模态。 + **类型**：字符串 + **是否必需**：是 + **有效值**：`text` \$1 `image` \$1 `text_image` \$1 `audio` \$1 `video` ### inputText 要嵌入的文本。 + **类型**：字符串 + **必需：**是（适用于兼容的输入类型） + **兼容的输入类型：**文本 ### mediaSource 包含有关媒体源的信息。 + **类型：**对象 + **必需：**是（如果是兼容的类型） + **兼容的输入类型：**图像、视频、音频 请求正文中 `mediaSource` 对象的格式取决于媒体是定义为 Base64 编码的字符串还是 S3 位置。 + **Base64 编码的字符串** ``` { "mediaSource": { "base64String": "base64-encoded string" } } ``` + `base64String` – 媒体的 Base64 编码的字符串。 + **S3 位置**-指定 S3 URI 和存储桶所有者。 ``` { "s3Location": { "uri": "string", "bucketOwner": "string" } } ``` + `uri` - 包含媒体的 S3 URI。 + `bucketOwner`— S3 存储桶所有者的AWS账户 ID。 ### embeddingOption 指定要检索的嵌入的类型。 + **类型**：列表 + **必需**：否 + **列表成员的有效值：** + `visual`— 视频中的视觉嵌入内容。 + `audio` – 视频中的音频嵌入。 + `transcription`— 转录文本的嵌入。 + **默认值：** + 视频：[“视觉”、“音频”、“转录”] + 音频：[“音频”，“转录”] + **兼容的输入类型：**视频、音频 ### 嵌入式作用域 指定要检索的嵌入的范围。 + **类型**：列表 + **必需**：否 + **列表成员的有效值：** + `clip`— 返回每个片段的嵌入内容。 + `asset`— 返回整个资源的嵌入内容。 + **兼容的输入类型：**视频、音频 ### startSec 剪辑中应开始处理的时间点（以秒为单位）。 + **类型**：双精度 + **必需**：否 + **最小值：**0 + **默认值：**0 + **兼容的输入类型：**视频、音频 ### endSec 处理应结束的时间点（以秒为单位）。 + **类型**：双精度 + **必需**：否 + **最小值：**起始秒 \$1 分段长度 + **最大值：**媒体持续时间 + **默认值：**媒体时长 + **兼容的输入类型：**视频、音频 ### 分割 定义如何将媒体划分为片段以进行嵌入生成。 + **类型**：对象 + **必需**：否 + **兼容的输入类型：**视频、音频 分割对象包含`method`字段和特定于方法的参数： + `method`— 要使用的分割方法。有效值：`dynamic` \$1 `fixed` + `dynamic`— 对于视频，使用镜头边界检测来动态划分内容。包含： + `minDurationSec`— 每个片段的最短持续时间（以秒为单位）。类型：整数。射程：1-5。默认值：4。 + `fixed`— 将内容分成持续时间相等的片段。包含： + `durationSec`— 每个片段的持续时间（以秒为单位）。类型：整数。射程：1-10。默认值：6。 **默认行为**： + 视频：使用动态分割和镜头边界检测。 + 音频：使用固定分段。内容尽可能均匀地分割，片段接近10秒。 ### 推断 ID 推理请求的唯一标识符。 + **类型**：字符串 + **必需**：否 ## TwelveLabs Marengo Embed 3.0 响应 输出嵌入和关联元数据的位置取决于调用方法： + InvokeModel — 在响应正文中。 + StartAsyncInvoke — 在中定义的 S3 存储桶中`s3OutputDataConfig`，在异步调用任务完成后。 如果有多个嵌入向量，则输出将为一个对象列表，每个对象均包含一个向量及其关联的元数据。 输出嵌入向量的格式如下所示： ``` { "data": { "embedding": [ 0.111, 0.234, ... ], "embeddingOption": ["visual", "audio", "transcription" (for video input) | "audio", "transcription" (for audio input)], "embeddingScope": ["asset" | "clip"], "startSec": 0, "endSec": 4.2 } } ``` 嵌入以浮点数组的形式返回。 您在何处看到此响应取决于您使用的 API 方法： + InvokeModel — 出现在响应正文中。 + StartAsyncInvoke — 出现在您在请求中指定的 S3 位置。响应返回一个`invocationArn`。您可以使用它来获取有关异步调用的元数据。这包括状态和写入结果的 S3 位置。 展开以下各个部分，查看有关响应参数的详细信息： ### 嵌入 输入的嵌入向量表示。 + **类型**：双精度数列表 ### embeddingOption 嵌入的类型。 + **类型**：字符串 + **可能的值：** + visual — 视频中的视觉嵌入内容。 + 音频-在视频中嵌入音频。 + 转录-转录文本的嵌入。 + **兼容的输入类型：**视频、音频 ### 嵌入式作用域 指定要检索的嵌入的范围。 + **类型**：字符串 您可以包含以下一个或多个值： + clip：返回每个片段的嵌入内容。 + asset：返回整个资产的嵌入内容。 ### startSec 剪辑的起始偏移量。 + **类型**：双精度 + **兼容的输入类型：**视频、音频 ### endSec 片段的末端偏移量。不适用于文本、图像和文本图像嵌入。 + **类型**：双精度 + **兼容的输入类型：**视频、音频 ## TwelveLabs Marengo Embed 3.0 代码示例 此部分介绍如何通过 Python 将 TwelveLabs Marengo Embed 3.0 模型与不同的输入类型结合使用。这些示例演示了如何定义特定于模型的输入和运行模型调用。 **注意** InvokeModel 支持文本、图像和带有图像交错输入的文本。对于视频和音频输入，请使用 StartAsyncInvoke。 按以下步骤操作来整合代码： **1. 定义特定于模型的输入** 根据输入类型定义特定于模型的输入： ------ #### [ Text ] ``` # Create the model-specific input model_id = "twelvelabs.marengo-embed-3-0-v1:0" # Replace the us prefix depending on your region inference_profile_id = "us.twelvelabs.marengo-embed-3-0-v1:0" model_input = { "inputType": "text", "text": { "inputText": "man walking a dog" } } ``` ------ #### [ Image ] ``` # Create the model-specific input model_id = "twelvelabs.marengo-embed-3-0-v1:0" # Replace the us prefix depending on your region inference_profile_id = "us.twelvelabs.marengo-embed-3-0-v1:0" model_input = { "inputType": "image", "image": { "mediaSource": { "s3Location": { "uri": "s3://amzn-s3-demo-bucket/my_image.png", "bucketOwner": "123456789012" } } } } ``` ------ #### [ Text & image ] ``` # Create the model-specific input model_id = "twelvelabs.marengo-embed-3-0-v1:0" # Replace the us prefix depending on your region inference_profile_id = "us.twelvelabs.marengo-embed-3-0-v1:0" model_input = { "inputType": "text_image", "text_image": { "inputText": "man walking a dog", "mediaSource": { "s3Location": { "uri": "s3://amzn-s3-demo-bucket/my_image.jpg", "bucketOwner": "123456789012" } } } } ``` ------ #### [ Audio ] ``` # Create the model-specific input model_id = "twelvelabs.marengo-embed-3-0-v1:0" # Replace the us prefix depending on your region inference_profile_id = "us.twelvelabs.marengo-embed-3-0-v1:0" model_input = { "inputType": "audio", "audio": { "mediaSource": { "s3Location": { "uri": "s3://amzn-s3-demo-bucket/my-audio.wav", "bucketOwner": "123456789012" } }, "startSec": 0, "endSec": 5, "segmentation": { "method": "fixed", "fixed": { "durationSec": 5 } }, "embeddingScope": ["clip", "asset"], "embeddingOption": ["audio"] } } ``` ------ #### [ Video ] ``` # Create the model-specific input model_id = "twelvelabs.marengo-embed-3-0-v1:0" # Replace the us prefix depending on your region inference_profile_id = "us.twelvelabs.marengo-embed-3-0-v1:0" model_input = { "inputType": "video", "video": { "mediaSource": { "s3Location": { "uri": "s3://amzn-s3-demo-bucket/my-video.mp4", "bucketOwner": "123456789012" } }, "startSec": 10, "endSec": 20, "segmentation": { "method": "fixed", "fixed": { "durationSec": 5 } }, "embeddingOption": [ "visual", "audio" ], "embeddingScope": [ "clip", "asset" ] } } ``` ------ **2. 使用模型输入运行模型调用** 然后，添加与所选模型调用方法对应的代码片段。 ------ #### [ InvokeModel ] ``` # Run model invocation with InvokeModel import boto3 import json # Initialize the Bedrock Runtime client client = boto3.client('bedrock-runtime') # Make the request response = client.invoke_model( modelId=inference_profile_id, body=json.dumps(model_input) ) # Print the response body response_body = json.loads(response['body'].read().decode('utf-8')) print(response_body) ``` ------ #### [ StartAsyncInvoke ] ``` # Run model invocation asynchronously import boto3 import json # Initalize the Bedrock Runtime client. client = boto3.client("bedrock-runtime") try: # Start the asynchronous job invocation = client.start_async_invoke( modelId=model_id, modelInput=model_input, outputDataConfig={ "s3OutputDataConfig": { "s3Uri": "s3://amzn-s3-demo-bucket" } } ) # Print the response JSON print("Response:") print(json.dumps(invocation, indent=2, default=str)) except Exception as e: # Implement error handling here. message = e.response["Error"]["Message"] print(f"Error: {message}") ``` ------