轻松玩转书生浦语大模型趣味 Demo——day2笔记

news/发布时间2024/5/17 17:46:35

本节课有四个任务:学习部署、玩角色扮演的agent项目,玩数学运算agent、玩写作agent

 

主要学习过程就是跟着视频,复制学习文档里的资料,完成demo的使用。主要目的是熟悉开发平台。

视频:

轻松玩转书生·浦语大模型趣味 Demo_哔哩哔哩_bilibili

资料:

Tutorial/helloworld/hello_world.md at camp2 · InternLM/Tutorial (github.com)

 

jupyter lab,很舒服的界面

 

powershell连接成功后就没反应了。

这是连接成功了!
这是连接成功了!
这是连接成功了!
这是连接成功了!
这是连接成功了!

 
这是连接成功了!
这是连接成功了!
这是连接成功了!
这是连接成功了!

我等了一小时。还以为连接不上。

 

这个是任务3,可能会遇到一个困难。

这是成功的样子

 这是失败的样子,为什么呢?因为本地缺少模型。

 解决方式如下:

把这段代码替换掉download_mini.py

然后运行:python /root/demo/download_mini.py

import os
from modelscope.hub.snapshot_download import snapshot_download# 创建保存模型目录
os.system("mkdir /root/models")# save_dir是模型保存到本地的目录
save_dir="/root/models"snapshot_download("Shanghai_AI_Laboratory/internlm2-chat-7b", cache_dir=save_dir, revision='v1.1.0')

  这样一来,本地就下好了我们所需要的模型internlm2-chat-7b

然后完成教程中,value的修改。

最后运行:streamlit run /root/demo/lagent/examples/internlm2_agent_web_demo_hf.py --server.address 127.0.0.1 --server.port 6006

 

总结一下任务3遇到的问题和完整流程:

我们需要把7b模型下载到云盘里,于是需要运行上面粘贴的代码。这个代码形似任务一种下载1.8b模型的代码,只是做了一点修改。

完整流程:

1、按照教程里的步骤做

Tutorial/helloworld/hello_world.md at camp2 · InternLM/Tutorial (github.com)

conda activate demo

cd /root/demo

git clone https://gitee.com/internlm/lagent.git
# git clone https://github.com/internlm/lagent.git
cd /root/demo/lagent
git checkout 581d9fb8987a5d9b72bb9ebd37a95efd47d479ac
pip install -e . # 源码安装

cd /root/demo/lagent

2、然后修改download_mini.py的代码,再运行python /root/demo/download_mini.py

3、回到教程的步骤,

打开 lagent 路径下 examples/internlm2_agent_web_demo_hf.py 文件,并修改对应位置 (71行左右) 代码:

value='/root/models/internlm2-chat-7b'

streamlit run /root/demo/lagent/examples/internlm2_agent_web_demo_hf.py --server.address 127.0.0.1 --server.port 6006

4、最后按照先前的流程点开stream界面。

 

突然发现没有50%的A100.任务四没法做了。

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.ulsteruni.cn/article/46132688.html

如若内容造成侵权/违法违规/事实不符,请联系编程大学网进行投诉反馈email:xxxxxxxx@qq.com,一经查实,立即删除!

相关文章

基于深度学习的肿瘤图像检测系统(网页版+YOLOv8/v7/v6/v5代码+训练数据集)

在本博客中,我们深入探讨了基于YOLOv8/v7/v6/v5的肿瘤图像检测系统。核心上,我们采用了最新的YOLOv8技术,并将其与YOLOv7、YOLOv6、YOLOv5算法进行了综合整合和性能指标对比分析。我们详细阐述了当前国内外在此领域的研究现状、数据集的处理方法、算法的原理、模型构建过程以…

telegram注册自己的bot,并在PC端调试代码

TON 的调试,请在TON环境运行,不要在PC H5里跑,不然一些问题是发现不了的。自己注册个bot,建个mini app,URL指向自己本机安装工具TWA 就是 Telegram Web App tg小程序https://core.telegram.org/bots/webapps#testing-mini-appsPC端调试,需要下载Beta版本的TG 创建自己的b…

针对postgresql已经存在数据,对字段进行hash后分表

PostgreSQL分表方案 在实际应用中,我们经常需要对已经存在的数据进行分表处理,以提高查询效率和数据存储的可靠性。本文将介绍如何使用 PostgreSQL 对已存在的数据进行分表处理。 分表方案 对于已经存在的数据,我们可以采用 hash 分表的方案。具体来说,我们可以使用某个字段…

软件测评师(中级)|画控制流图手把手教程

控制流图画法分解,一文教会画软件测评师中级中的各种流程图1.控制流图概念 控制流图(Control Flow Graph, CFG)也叫控制流程图,是一个过程或程序的抽象表现,是用在编译器中的一个抽象数据结构,由编译器在内部维护,代表了一个程序执行过程中会遍历到的所有路径。它用图的形…

flutter随笔

dart语法 list // 创建指定长度list List.generate(6, (index) => CircleButton(index: index));基础 视图结构StatelessWidget与StatefulWidget区别StatelessWidget: 无状态的widgets是不可变的,这意味着它们的属性不能改变,所有的值都是final StatefulWidget: 有状态的wid…

书生浦语大模型趣味Demo课程笔记

第二节 书生浦语大模型趣味Demo实践 环境准备 浦语大模型的开发机器支持了cuda11.7的基础环境和一些自动迁移conda配置脚本迁移conda环境命令: studio-conda -o internlm-base -t demo 如果自己安装软件环境:conda create -n demo python==3.10 -y conda activate demo conda…