Fastapi 实现SSE推流

async def chat_bot(request:Request):
	res_str = "我是一个流式输出,我会一个一个字挨个输出。"
	for idx,word in enumerate(res_str):
		if await request.is_disconnected():
			print("连接中断")
			break
		data = json.dumps({"id": idx,"message": word}, ensure_ascii=False)
   	yield data
   	await asyncio.sleep(1)

@router.get('/chatbot')
async def chatbot(request):
   return EventSourceResponse(chat_bot(request)
  • 结果
    在这里插入图片描述
  • async def:使用关键字async表示这是一个异步函数,能够处理异步操作(例如I/O)而不会阻塞。
  • chat_bot(request:Request):函数接收一个Request对象,表示来自客户端的HTTP请求。
  • for idx,word in enumerate(res_str):遍历字符串res的每个字符。idx是字符的索引,word是字符本身。
  • enumerate 是 Python 内置的一个函数,用于在遍历可迭代对象(如列表、字符串、元组等)时,同时获取每个元素的索引和值。它返回一个迭代器,每次迭代都会生成一个包含索引和值的元组
  • await request.is_disconnected():检查客户端是否已断开连接。如果客户端已断开连接,await request.is_disconnected() 将返回 True
  • json.dumps({"id": idx, "message": word}, ensure_ascii=False):将当前字符 word 和它的索引 idx 封装到一个 JSON 对象中,并将其序列化为 JSON 字符串
  • yield data:将 JSON 字符串 data 逐个字符地生成。yield 使得这个函数成为一个生成器,逐步返回数据,而不是一次性返回所有数据。这允许流式传输数据
  • await asyncio.sleep(0.1):异步等待 0.1 秒。这个暂停时间模拟了数据的逐步发送,使得数据以一定的间隔流式传输到前端。
Logo

加入社区!打开量化的大门,首批课程上线啦!

更多推荐