主机参考:VPS测评参考推荐/专注分享VPS服务器优惠信息!若您是商家可以在本站进行投稿,查看详情!此外我们还提供软文收录、PayPal代付、广告赞助等服务,查看详情! |
我们发布的部分优惠活动文章可能存在时效性,购买时建议在本站搜索商家名称可查看相关文章充分了解该商家!若非中文页面可使用Edge浏览器同步翻译!PayPal代付/收录合作 |
。填充:20px; } .extra-menu .extra-menu-h {高度:36px; } .extra-menu .extra-menu-h h3 {display:inline-block; } .extra-menu ul a {text-decoration:none; } .extra-menu .menu-child {text-indent:4em; } .extra-menu .menu-child:{左:4em; } .extra-menu .extra-menu-h h3 {line-height:36px; } .collapse-toggle {float:right;光标:指针;用户选择:无;显示:内联弹性;准项目:中心;字体尺寸:14px; } .collapse-toggle img {width:30%;转换:旋转(180DEG); } .collapse-content {Margin-Bottom:0px! f保证金顶部:20px! Imim标志;溢出:隐藏; Max-Height:0;过渡:赠送高达0.3秒。 } .collapsecontent.expanded {max-height:1000px; / *设置足够的值以确保内容可以完全扩展 */} .ph-id {position:felach;上图:-90px; } jQuery(document).ready(function($){$('。倒塌toggle')。$('div')。})。})
文章通常需要集成各种工具以在部署代理服务时启用功能调用。 但是,将它们集成到代理本身内的API调用中,从而导致可扩展性问题和为企业级应用程序方案重复使用工具的困难。 在本文中,您将通过Amazon Cloud Technology免费托管服务 + MCP快速通过专业角色和自动化工作流程构建应用程序。
Amazon Cloud Technology的免费托管服务的全名是“ Amazon Sagemaker AI”。我们目前提供了为期两个月的免费试用套餐,该计划提供了主持LLM的能力,从而减少了在可伸缩性问题和管理中的运营和维护人员的繁琐基本任务。
Amazon Cloud Technology官方网站:单击直接进行(注册以尝试SageMaker AI和100多个云服务)
参考教程:Amazon Cloud Cloud Technology帐户帐户注册
接下来,我们将向您介绍MCP Servers and MCP客户端可扩展的参考架构。该体系结构使用Amazon Sagemaker AI作为基本模型(FMS)和LLM的托管环境。 该体系结构使Amazon Sagemaker AI成为推理核心,但也可以立即调整以支持亚马逊基岩模型。 解决方案体系结构如下图所示。
文章目录1。什么是mcp2? Amazon Cloud Technology免费托管服务FASTMCP
1。MCP
是什么是与“ MCP”相关的关键字引起了行业中的“热”浪潮,那么MCP是什么? MCP是由人类开发的开源协议,主要将AI模型连接到大多数数据源或工具。 MCP采用客户端服务器体系结构(如下图所示)。这主要帮助开发人员通过轻巧的MCP服务器曝光数据,作为MCP客户端构建AI应用程序,并使客户端可以连接到服务器。
传统的API通常将各种功能捆绑在一起,因此,如果需要扩展,整个系统将升级。此外,我们在更新过程中面临着系统故障的高风险,并且为不同版本的不同应用程序管理API变得非常复杂和乏味。 微服务提供了更高程度的模块化,但通常需要每种服务的单独,复杂的集成,从而导致无聊的管理开销。
MCP的标准化客户端服务器体系结构旨在有效且安全的集成,并克服上述限制。 为了提供实时的双向通信界面,AI系统可以根据“在任何地方的Whie Where”的概念中无缝连接各种外部工具,API服务和数据源。
2。AmazonCloud Technology Architecture免费托管服务,在确定了FastMCP
的架构之后,分析了下图中显示的申请过程。
MCP就使用模式而言,MCP与工具调用具有逻辑相似性,但添加了一个步骤,以首先发现可用的工具。
1。客户端连接到MCP服务器并检索可用工具的列表。
2。客户使用提示单词(类型'用户'的消息)调用llm,该列表基于MCP服务器上可用的工具列表。
3。LLM确定要调用的工具,并在必要时确定通话和回复的数量(“助手”类型的消息)。
4。客户端请求MCP服务器执行工具调用并为LLM提供结果(“用户”类型的消息)。
5。可以重复此循环,直到获得最终答案,并且可以将答案返回给用户。
6。客户端与MCP服务器断开。
要创建MCP服务器,您必须使用官方模型上下文协议Python SDK。 让我们以一个使用一个工具来创建简单服务器的示例,该工具模拟广播电台上播放最多的命中,并将结果返回为Python词典。 确保为输入和输出类型添加适当的文档字符串和注释以提供服务器和客户端都可以正确发现和使用资源。
mcp.server.fastmcp将进口fastmcp
mcp server客户端mcp = fastmcp(“广播电台服务器”)
#define tools@mcp.tool@mcp.tool()def top_song()
@mcp.tool()def…
如果__name __ ==“ __ -main __”:## stdio/sse/sse cranspertmcp.run(p>
sse'sse')
您可以安全地访问其他Amazon Ec2,例如Amazon Ek,Amazon Ek和Amazon earkon Lambda and amazon earkon and amazon laskda seramake yakear amazon laskda, VPC和外部资源和企业API的数据库。例如,部署MCP服务器的一种简单方法是使用Amazon Lambda对Docker Images进行Amazon Lambda支持在Lambda功能或Amazon Fargate上安装MCP依赖。
设置服务器后,将焦点转移到MCP客户端,并且通信从使用流式HTTP连接到MCP服务器的MCP客户端开始。
来自mcp.client.sse导入sse_client
async def connect_to_to_sse_server(self,server_url:str:str):“”“ #sse”“ self.____streams_context .__ aenter __ aenter __() self._session_context .__ eenter sse客户端...”)打印(“列表工具...”)响应=等待self.session.list_tools()tools = whess.toolsprint(“使用工具:”,[工具中工具中的工具名称])
当您连接到MCP服务器时,您可以使用list pl> pp> pp> pp>。 (“具有访问这些工具的有用助手:\ n \ n“ f” {tools_description} \ n“”“根据用户的问题选择适当的工具。;;:{\ n''“ argump-name”:“ value” \ n'} \ n“”“} \ n} \ n \ n”“接收工具响应后:\ n” 1。将原始数据转换为自然对话响应\ n“”。 (模式)如下示例。该工具被命名为top_song,旨在在广播电台上播放最受欢迎的歌曲。
{“ name”:“ top_song”,“ description”:“获取在广播电台上播放的最受欢迎的歌曲。”,“ PARAmeters”:{“ type”:“对象”,“属性”:{“ sign”:{“ type”:“ string”,“ description”:“需要最受欢迎的歌曲的广播电台的呼号。呼号的示例是WZPZ和WKRP。 “}},“ nefign”:[“ sign”]}}}}}}
}
您可以多次运行聊天循环,如果您愿意的SDKS或其他第三方库,或其他第三方库,例如Litellm和类似的库,请执行此功能。e,tool_args = parse_tools_from_llm_response(结果)#识别从llmresult接收到的消息中是否存在工具调用。 由Amazon Sagemaker托管的模型不在API中固有支持功能呼叫功能,因此您需要正则表达式或类似的方法来解析响应内容。
re,json
def parse_tools_from_lrm_response(消息:str) - > dict:match = re.search(r'(s)\ {(?内容[“工具”] tool_arguments =内容[“参数”]返回工具,tool_arguments
llm的响应不再包括待处理的工具呼叫请求,并且响应内容被视为最终答案,并返回给用户返回,最终不忘记关闭数据流并在MCP Server上终止数据流程。有关使用Amazon SageMaker使用Llama 2型号的sagemaker部署通用LLM API接口的教程”
这几篇文章你可能也喜欢:
- 亚马逊云技术正式推出了新的亚马逊萨吉马制造商统一工作室
- 亚马逊云技术亚马逊EC2 P5EN实例已完全可用
- Amazon Cloud TechnologyAmazonWorkmail构建免费的公司电子邮件图形教程
- Amazon Cloud Technology Release发布《亚马逊NOVA ACT及其SDK研究》的预览
- 亚太地区亚太地区(马来西亚)地区有Amazon S3访问赠款
本文由主机参考刊发,转载请注明:亚马逊云技术免费托管服务MCP工作流程以快速建立批准(详细指南) https://zhujicankao.com/148130.html
评论前必须登录!
注册