8wDlpd.png
8wDFp9.png
8wDEOx.png
8wDMfH.png
8wDKte.png

如何在Python-Flask中编码的LLM ChatBot分开多个用户的对话上下文

JNC 7月前

88 0
事先表示歉意,因为这可能很容易解决。 我仍然是对编程和学习的新手。 我正在使用Python Flask,Openai的LLM和Llama Index Libr ...

事先进行聊天机器人,因为这可能很容易解决。

我仍然是对编程和学习的新手。

我正在使用Python Flask,Openai的LLM和Llama Index Library进行聊天机器人。

目前正在托管AWS。

现在,使用它的每个人,无论设备如何共享相同的聊天历史记录。

因此,如果一个人说他们的名字叫鲍勃,任何人都可以问“我叫什么名字?” 机器人将回答“鲍勃”。 我想做到这一点,以便每个人都有与机器人的聊天历史记录,即使他们在设备之间切换。 这样,聊天机器人可以记住与单个用户的对话,而不是将每个人的聊天混合在一起。

我知道LLM是无状态的,因此每个API调用应该是一个新调用,我知道我正在使用Llama索引传递聊天历史记录,但我不知道如何为每个设备/用户启动新的会话。

我已经使用不同的浏览器在本地机器上对AWS进行了测试,因此我不认为其Nginx。

ive还尝试了烧瓶会话库,但没有任何运气。

是否有人做过这样的事情或有任何有关从哪里开始的技巧?

帖子版权声明 1、本帖标题: 如何在Python-Flask中编码的LLM ChatBot分开多个用户的对话上下文
    本站网址:http://xjnalaquan.com/
2、本网站的资源部分来源于网络,如有侵权,请联系站长进行删除处理。
3、会员发帖仅代表会员个人观点,并不代表本站赞同其观点和对其真实性负责。
4、本站一律禁止以任何方式发布或转载任何违法的相关信息,访客发现请向站长举报
5、站长邮箱:yeweds@126.com 除非注明,本帖由JNC在本站《python》版块原创发布, 转载请注明出处!
最新回复 (0)
  • 当您执行Python脚本时,您是否可能没有激活Virtualenv?
返回
作者最近主题: