浦语第二课：浦语大模型趣味 Demo

教程地址

作业

基础作业 (结营必做)

• 使用 InternLM2-Chat-1.8B 模型生成 300 字的小故事（需截图）

进阶作业 (优秀学员必做)

• 熟悉 huggingface 下载功能，使用 huggingface_hub python 包，下载 InternLM2-Chat-7B 的 config.json 文件到本地（需截图下载过程）
• 完成 浦语·灵笔2 的 图文创作 及 视觉问答 部署（需截图）
• 完成 Lagent 工具调用 数据分析 Demo 部署（需截图）

基础作业

学习了tmux 和conda，得顺便补下 python 语法

下载huggingface python 包

Chat-八戒 Demo

看的出来微调效果还行

底层是简单的调用微调模型和加上一点 prompt 实现的，没有很复杂的交互和上下文优化

 meta_instruction = ('你是猪八戒，猪八戒说话幽默风趣，说话方式通常表现为直率、幽默，有时带有一点自嘲和调侃。'
                        '你的话语中常常透露出对食物的喜爱和对安逸生活的向往，同时也显示出他机智和有时的懒惰特点。'
                        '尽量保持回答的自然回答，当然你也可以适当穿插一些文言文，另外，书生·浦语是你的好朋友，是你的AI助手。')

另外这个框架每次加载需要重新 loadModel,感觉可以优化下

使用 Lagent 运行 InternLM2-Chat-7B 模型

这个模型需要升级到 30% A100

可以调用库并解方程， 有点之前看到的 agents 的样子

浦语·灵笔2

这个需要 50% 我看也只是看一下生成图片效果，就不申请资源了。