星火模型的langchain实现
测试已通过,希望有所帮助。(如果出现bug,请提issue)
使用前请先安装环境:
pip install oneapi2langchain -i https://pypi.org/simple/
实现如下: 自行跳转
from oneapi2langchain import ChatSpark
from dotenv import load_dotenv # 加载 APP_ID 等配置
load_dotenv()
if __name__ == "__main__":
llm = ChatSpark()
# # 测试 string ok
ret = llm.predict("你是谁",stop=['科大讯飞'])
print(ret)
# 测试 message ok
# ret = llm.predict_messages([ChatMessage(role="user",content="你是谁")])
# print(ret)
# 测试 invoke ok
# ret = llm.invoke("你是谁")
# print(ret)
# 测试流式
# for i in llm.stream("你是谁"):
# print(i)