一、简介

自1月30日起,DeepSeek-R1 模型已通过 Amazon Bedrock Marketplace 和 Amazon Bedrock 自定义模型导入在 Amazon Bedrock 中提供。至今,成千上万的客户在 Amazon Bedrock 中部署了这些模型,对其强大的安全防护机制以及全面的AI安全部署工具给予了高度评价。如今,亚马逊云科技通过扩展选项范围(包括新的无服务器解决方案),使在 Amazon Bedrock 中使用 DeepSeek 变得更加容易。

完全托管的DeepSeek-R1模型现已在Amazon Bedrock上全面可用。通过亚马逊云科技,用户无需应对管理底层基础设施的复杂性,即可通过DeepSeek模型加速创新进程并创造切实的业务价值。借助Amazon Bedrock的完全托管服务及单一API,用户可轻松利用DeepSeek-R1为生成式AI应用程序提供强大支持,并享受其丰富功能和工具。

据 DeepSeek 称,他们的模型在 MIT 许可下公开提供,并在推理、编码和自然语言理解方面提供了强大的能力。这些功能为智能决策支持、软件开发、数学问题解决、科学分析、数据洞察和全面的知识管理系统提供支持。

与其他AI解决方案部署规范一致,应用DeepSeek-R1时需严格考虑数据隐私、检查输出偏差并监控结果。在部署此类公开模型时,请特别关注以下要点:

数据安全:借助Amazon Bedrock,用户可享用企业级安全、监控及成本控制功能,这些功能对于大规模、负责任地部署AI至关重要,同时确保您对数据的完全控制。用户输入及模型输出均不与任何模型提供商共享。与DeepSeek-R1模型通信时,用户将默认享有包括数据静态及传输加密、细粒度访问控制、安全连接选项及多项合规认证在内的关键安全功能。

**负责任的AI:**借助Amazon Bedrock Guardrails,用户可根据应用程序需求及负责任的AI策略,实施相符合的安全措施。这些措施包括内容过滤、敏感信息过滤等关键功能,以及基于上下文和自动推理的定制安全控制,以预防幻觉。通过这些功能,用户可过滤生成式AI应用程序中的不良和有害内容,并依据定义的策略集来管理用户与DeepSeek-R1模型间的交互。

**模型评估:**借助Amazon Bedrock模型评估工具,用户可以在几个步骤中,通过自动或人工方式对DeepSeek-R1等模型进行评估和比较,从而选择最符合用户用例的模型。自动评估支持使用预定义指标,如准确性、鲁棒性、毒性;而人工评估则适用于主观或自定义指标,如相关性、风格、品牌声音一致性。此外,模型评估提供内置精选数据集,并支持用户引入自有数据集。

亚马逊云科技官网强烈建议集成Amazon Bedrock Guardrails,并使用Amazon Bedrock模型评估功能,以增强DeepSeek-R1模型在生成式AI应用程序中的安全防护。详细信息可参阅使用Amazon Bedrock Guardrails保护DeepSeek模型部署评估Amazon Bedrock资源的性能

可通过注册亚马逊云科技官网,了解更多内容。

二、在 Amazon Bedrock 中开始使用 DeepSeek-R1 模型

开始使用DeepSeek-R1模型

首次使用DeepSeek-R1模型时,请登录Amazon Bedrock控制台,在左侧导航栏的“配置管理”模块中选择“模型访问”。请求访问DeepSeek-R1后,您将获得在Amazon Bedrock中使用该模型的权限。

39c9a335ee6491e8b0f29c547bd25934.jpeg

若要测试模型,请在“Playgrounds”下选择“聊天/文本”,然后选择“选择模型”,指定DeepSeek类别及DeepSeek-R1模型,点击“应用”。

436a2d46d7d205b6b0b6c2b95a323cf5.png

以下是一个示例提示,用于测试模型的复杂思维链和精确推理能力。

A family has $5,000 to save for their vacation next year. They can place the money in a savings account earning 2% interest annually or in a certificate of deposit earning 4% interest annually but with no access to the funds until the vacation. If they need $1,000 for emergency expenses during the year, how should they divide their money between the two options to maximize their vacation fund?

7158225b7b9d9847ec0011d2b095b99b.gif

更多提示使用建议,请参考GitHub存储库中DeepSeek-R1模型的README文件:

GitHub存储库中DeepSeek-R1模型的README文件

通过“查看API请求”,您可使用Amazon Web Services CLI和Amazon Web Services SDK中的代码示例访问模型,模型ID为us.deepseek.r1-v1:0。

以下是Amazon Web Services CLI命令示例。

aws bedrock-runtime invoke-model \
     --model-id us.deepseek-r1-v1:0 \
     --body "{\"messages\":[{\"role\":\"user\",\"content\":[{\"type\":\"text\",\"text\":\"[n\"}]}],max_tokens\":2000,\"temperature\":0.6,\"top_k\":250,\"top_p\":0.9,\"stop_sequences\":[\"\\n\\nHuman:\"]}" \
     --cli-binary-format raw-in-base64-out \
     --region us-west-2 \
     invoke-model-output.txt

该模型同时支持 和 API。以下 Python 代码示例显示了如何使用 Amazon Bedrock Converse API 向 DeepSeek-R1 模型发送文本消息以生成文本。可通过注册亚马逊云科技官网,了解更多内容,访问亚马逊云科技文档中的 DeepSeek 模型推理参数和响应

import boto3
from botocore.exceptions import ClientError
 
 
# Create a Bedrock Runtime client in the AWS Region you want to use.
client = boto3.client("bedrock-runtime", region_name="us-west-2")
 
 
# Set the model ID, e.g., Llama 3 8b Instruct.
model_id = "us.deepseek.r1-v1:0"
 
 
# Start a conversation with the user message.
user_message = "Describe the purpose of a 'hello world' program in one line."
conversation = [
    {
        "role": "user",
        "content": [{"text": user_message}],
    }
]
 
 
try:
    # Send the message to the model, using a basic inference configuration.
    response = client.converse(
        modelId=model_id,
        messages=conversation,
        inferenceConfig={"maxTokens": 2000, "temperature": 0.6, "topP": 0.9},
    )
 
 
    # Extract and print the response text.
    response_text = response["output"]["message"]["content"][0]["text"]
    print(response_text)
 
 
except (ClientError, Exception) as e:
    print(f"ERROR: Can't invoke '{model_id}'. Reason: {e}")
    exit(1)

要在 DeepSeek-R1 模型上启用 Amazon Bedrock 护栏,请在左侧导航窗格中的 Safeguards (保护措施) 下选择 Guardrails (护栏),然后根据需要配置任意数量的筛选条件来创建护栏。例如,如果您筛选 “politics” 单词,则护栏将在提示中识别此单词并向您显示被阻止的消息。

5f3012b6f7bb125e748b17bc7d422613.png

用户可以使用不同的输入测试护栏,以评估护栏的性能。用户可以通过设置被拒绝的主题、单词筛选条件、敏感信息筛选条件和阻止的消息来优化护栏,直到它符合用户的需求。

要了解有关 Amazon Bedrock Guardrails 的更多信息,请访问 亚马逊云科技 文档中的使用 Amazon Bedrock Guardrails 阻止模型中的有害内容,或 亚马逊云科技 Machine Learning 博客频道上有关 Amazon Bedrock Guardrails 的其他深入博客文章

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐