在 Amazon Bedrock 上使用 Cohere Command R 和 R 运行可扩展的企

在 Amazon Bedrock 上运行可扩展的企业级生成性 AI 工作负载

关键要点

在 2023年11月 我们在 Amazon Bedrock 中推出了两个新的 Cohere 模型Cohere Command Light 和 Cohere Embed English。今天，我们很高兴地宣布，加入了另外两个 Cohere 模型Cohere Command R 和 Command R。这两个模型的推出，旨在帮助组织利用生成性人工智能Generative AI安全地与其企业数据源中的信息进行交互。

Command R 和 Command R 是强大且可扩展的大型语言模型，专门为现实世界的企业级工作负载而构建。这些模型具有多语言能力，并旨在平衡高效率和强准确性，以在检索增强生成[RAG](https//awsamazoncom/whatis/retrievalaugmentedgeneration/#text=Retrieval2DAugmented20Generation20(RAG)sources20before20generating20a20response和工具使用等技能上表现出色，从而使企业能够超越概念验证POC，正式进入基于人工智能AI的生产阶段。

Command R 和 Command R 的特点

Command R 是一个可扩展的多语言生成模型，专注于 RAG 和工具使用，推动企业实现生产级 AI。Command R 则是一个针对 RAG 进行了优化的最新模型，旨在应对企业级工作负载，并优化商业 AI 应用。Command R 可以提供企业级的高度可靠且可验证的响应，配备标准的内联引用功能。使用这两个新模型，企业可以快速找到与任务相关的最重要信息，支持财务、人力资源、销售、市场营销和客户支持等各项业务操作。

如何开始使用 Command R 和 Command R

要在 Amazon Bedrock 中开始使用这两个模型，首先需要获得对模型的访问权限。在 Amazon Bedrock 控制台 中，选择 模型访问，然后选择 管理模型访问。接下来，选择您希望使用的模型，然后点击 保存更改。现在，您可以在 Amazon Bedrock 中选择六个 Cohere 模型，包括 Command R 和 Command R，这为您提供了更大的选择和灵活性，以满足特定的业务需求。

一旦获得您希望使用的模型访问权限，您就可以在 Amazon Bedrock 中使用该模型。刷新基础模型表以查看更新状态。

这些模型已针对用户使用的语言进行训练，包括英语、法语、西班牙语、意大利语、德语、巴西葡萄牙语、日语、韩语、简体中文和阿拉伯语。以下是一个示例：

提示ltsgtcris une description de produit pour une voiture lectrique en 50 75 mots

输出Dcouvrez la voiture lectrique qui va rvolutionner votre faon de conduire

用编程方式与 Command R 和 Command R 互动

您还可以使用 AWS CLI 和 AWS SDK 通过 Amazon Bedrock API 进行各种调用。以下是一个使用 Python 与 Amazon Bedrock Runtime API 进行交互的示例代码。它展示了如何使用先前提到的文本生成提示与 Command R 模型进行交互。

pythonimport boto3import json

bedrock = boto3client(servicename=bedrock regionname=useast1)listModels = bedrocklistfoundationmodels(byProvider=cohere)print(njoin(list(map(lambda x f{x[modelName]} { x[modelId] } listModels[modelSummaries]))))

运行该代码会返回以下模型列表：

Command coherecommandtextv14Command Light coherecommandlighttextv14Embed English cohereembedenglishv3Embed Multilingual cohereembedmultilingualv3Command R coherecommandrv10Command R coherecommandrplusv10

从列表中选择 coherecommandrv10 模型 ID 并编写生成文本的代码，如下所示：

pythonimport boto3import json

bedrock = boto3client(servicename=bedrockruntime regionname=useast1)

prompt = cris une description de produit pour une voiture lectrique en 50 75 mots

body = jsondumps({ message prompt maxtokens 512 temperature 05 p 08})

modelId = coherecommandrv10

accept = application/jsoncontentType = application/json

response = bedrockinvokemodel( body=body modelId=modelId accept=accept contentType=contentType)

print(jsonloads(responseget(body)read()))

您将以 JSON 格式获得输出，如下所示：

Dcouvrez la voiture lectrique qui va rvolutionner votre faon de conduire

现已上线

Command R 和 Command R 模型，以及其他 Cohere 模型，现已在 Amazon Bedrock 中提供，覆盖美国东部北弗吉尼亚和美国西部俄勒冈地区；请查看 完整区域列表 以获取未来更新。

访问我们的 communityaws 网站，了解深入的技术内容，探索我们的 Builder 社区如何在其解决方案中使用 Amazon Bedrock。今天就尝试在 Amazon Bedrock 控制台 中使用 Command R 和 Command R，并通过 AWS rePost for Amazon Bedrock 或您的常用 AWS 支持渠道给予反馈。

Veliswa

个人简介：Veliswa Boya

Veliswa Boya 是一名高级开发者倡导者，现驻南非，积极与非洲撒哈拉以南地区的 Builder 社区合作。她在技术领域担任过多种角色，包括开发者、分析师、架构师和云工程师，现在是一名开发者倡导者。Veliswa 特别喜欢与新手和刚接触 AWS 的人一起工作。