View a markdown version of this page

Resumo de texto para avaliação de modelo no Amazon Bedrock. - Amazon Bedrock

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Resumo de texto para avaliação de modelo no Amazon Bedrock.

O resumo de texto é usado para tarefas que incluem a criação de resumos de notícias, documentos jurídicos, trabalhos acadêmicos, pré-visualizações de conteúdo e curadoria de conteúdo. A ambiguidade, a coerência, o desvio e a fluência do texto usado para treinar o modelo, bem como a perda, a precisão, a relevância ou a incompatibilidade de contexto das informações, podem influenciar a qualidade das respostas.

Importante

Para resumo de texto, há um problema conhecido do sistema que impede que os modelos da Cohere concluam uma avaliação de toxicidade com êxito.

O conjunto de dados integrado a seguir é compatível com o tipo de tarefa de resumo.

Gigaword

O conjunto de dados Gigaword consiste em manchetes de artigos de notícias. Esse conjunto de dados é usado em tarefas de resumo de texto.

A tabela a seguir resume as métricas calculadas e o conjunto de dados integrado recomendado. Para especificar com êxito os conjuntos de dados integrados disponíveis usando o AWS CLI, ou um AWS SDK compatível, use os nomes dos parâmetros na coluna, Built-inconjuntos de dados (API).

Conjuntos de dados integrados disponíveis para resumo de texto no Amazon Bedrock
Tipo de tarefa Métrica Built-in conjuntos de dados (console) Built-in conjuntos de dados (API) Métrica computada
Resumo de texto Precisão Gigaword Builtin.Gigaword BERTScore
Toxicidade Gigaword Builtin.Gigaword Toxicidade
Robustez Gigaword Builtin.Gigaword

BERTScore e deltaBERTScore

Para saber mais sobre como a métrica computada para cada conjunto de dados incorporado é calculada, consulte Analisar os relatórios e métricas do trabalho de avaliação de modelo no Amazon Bedrock.