采样演练

交互式练习：对照下面这个示例项目，逐步查看 sampling 在服务器端和客户端各自是如何实现的。点击"下一步"会自动打开对应文件并高亮相关代码；文件树里的任何文件都可以随时点开查看。

教程步骤

让我们通过一个示例项目来更好地了解如何实现此功能。

在服务器端，在工具调用期间，运行 create_message() 方法，传入一些您希望发送给语言模型的消息。

文件

文件请先选择一个文件.gitignoreREADME.mdclient.pypyproject.tomlserver.py

1from mcp.server.fastmcp import FastMCP, Context
2from mcp.types import SamplingMessage, TextContent
3
4mcp = FastMCP(name="Demo Server")
5
6
7@mcp.tool()
8async def summarize(text_to_summarize: str, ctx: Context):
9    prompt = f"""
10        Please summarize the following text:
11        {text_to_summarize}
12    """
13
14    result = await ctx.session.create_message(
15        messages=[
16            SamplingMessage(
17                role="user", content=TextContent(type="text", text=prompt)
18            )
19        ],
20        max_tokens=4000,
21        system_prompt="You are a helpful research assistant.",
22    )
23
24    if result.content.type == "text":
25        return result.content.text
26    else:
27        raise ValueError("Sampling failed")
28
29
30if __name__ == "__main__":
31    mcp.run(transport="stdio")