国内AI模型ChatYuan

clueai使用教程:

github地址：

Loading...

使用教程：https://www.clueai.cn/doc
使用地址：colab.research.google.com/drive

Colaboratory（简称 Colab），您可在浏览器中编写和执行 Python 代码，并且：无需任何配置,免费使用 GPU,轻松共享。 无论您是一名学生、数据科学家还是 AI 研究员，Colab 都能够帮助您更轻松地完成工作

安装
可以使用 pip命令安装:

pip install --upgrade clueai

也可以通过源码:

python setup.py install

生成参数说明

max_length: 指定生成的文本的token总数量（包括输入的token数量）
min_lenght: 指定生成的文本的最小数量（不包括输入的token数量）
do_sample: 是否采样输出
num_beams: 当使用beam search搜索时需要指定的beam的num，越大效果越好，但是越费时间
temperature: 平滑输出token的概率
top_k: 保留概率最大的前k个进行采样
top_p: 按照概率排序的token，在保留概率累计和为当前值范围内的token进行采样
repetition_penalty: 重复惩罚参数
length_penalty: 长度惩罚参数
no_repeat_ngram_size: 不重复的ngram窗口大小 更多参数和说明参考transformers

ChatYuan功能对话

单轮对话

import clueai
# initialize the Clueai Client with an API Key
cl = clueai.Client('YOUR_API_KEY', check_api_key=True)
prompt= '''用户：介绍一下亚马逊云的历史
小元：'''
# generate a prediction for a prompt 
# 需要返回得分的话，指定return_likelihoods="GENERATION"
prediction = cl.generate(
            model_name='ChatYuan-large',
            prompt=prompt)
            
# print the predicted text          
print('prediction: {}'.format(prediction.generations[0].text))

多轮对话

import clueai
# initialize the Clueai Client with an API Key
cl = clueai.Client('YOUR_API_KEY', check_api_key=True)
prompt= '''用户：新冠什么症状？
小元：新冠是指新型冠状病毒，其症状包括发热、干咳、乏力、嗅味觉减退、呼吸困难等。
用户：可以吃什么药？
小元：根据您提供的病史，目前没有明确的抗新冠病毒的药物，建议您在家进行自我隔离，避免与他人接触，多喝开水，清淡易消化饮食，避免熬夜和过度劳累，适当进行户外活动。
用户：帮我写一个2023年工作规划
小元：'''
# generate a prediction for a prompt 
# 需要返回得分的话，指定return_likelihoods="GENERATION"
prediction = cl.generate(
            model_name='ChatYuan-large',
            prompt=prompt)
            
# print the predicted text          
print('prediction: {}'.format(prediction.generations[0].text))