事先表示歉意,因为这可能很容易解决。
我仍然是对编程和学习的新手。
我正在使用Python Flask,Openai的LLM和Llama Index Libr ...
事先进行聊天机器人,因为这可能很容易解决。
我仍然是对编程和学习的新手。
我正在使用Python Flask,Openai的LLM和Llama Index Library进行聊天机器人。
目前正在托管AWS。
现在,使用它的每个人,无论设备如何共享相同的聊天历史记录。
因此,如果一个人说他们的名字叫鲍勃,任何人都可以问“我叫什么名字?”
机器人将回答“鲍勃”。
我想做到这一点,以便每个人都有与机器人的聊天历史记录,即使他们在设备之间切换。
这样,聊天机器人可以记住与单个用户的对话,而不是将每个人的聊天混合在一起。
我知道LLM是无状态的,因此每个API调用应该是一个新调用,我知道我正在使用Llama索引传递聊天历史记录,但我不知道如何为每个设备/用户启动新的会话。
我已经使用不同的浏览器在本地机器上对AWS进行了测试,因此我不认为其Nginx。
ive还尝试了烧瓶会话库,但没有任何运气。
是否有人做过这样的事情或有任何有关从哪里开始的技巧?
如何在Python-Flask中编码的LLM ChatBot分开多个用户的对话上下文
下载声明:
本站所有软件和资料均为软件作者提供或网友推荐发布而来,仅供学习和研究使用,不得用于任何商业用途。如本站不慎侵犯你的版权请联系我,我将及时处理,并撤下相关内容!