AIUnlimited
🌳

AI基础

🌱
AI 种子

从零开始

🌿
AI 萌芽

打好基础

🌳
AI 枝干

付诸实践

🏕️
AI 树冠

深入探索

🌲
AI 森林

精通AI

🔨

AI精通

✏️
AI 草图

从零开始

🪨
AI 雕刻

打好基础

⚒️
AI 匠心

付诸实践

💎
AI 打磨

深入探索

🏆
AI 杰作

精通AI

📘

AI实战

📖
理解开源模型

开源模型的基础知识和资源

🎯
问题到模型任务

将业务问题转化为模型任务

⚡
跑通第一个模型

30分钟快速看到第一个结果

🔧
微调与评测

微调模型并评估性能

🚀
应用系统

构建实际AI应用系统

🎨
生成式AI

探索AIGC的开源模型

🤖
Agent智能体

学习Agent框架和MCP工具

📐
基础补充

LLM基础知识和评测

🎓

Claude 学院

🤖
Claude 101 入门

用 Claude 学习 AI 基础知识

💻
Claude Code 101 入门

让 Claude 成为你的结对编程伙伴

🤝
Claude Cowork 入门

与 Claude 协作完成复杂项目

⚙️
Claude 平台 101

使用 Claude API 构建应用

实验室

已加载 7 个实验
🧬神经网络沙盒🤖AI 还是人类?🥋提示工程道场🏁算法竞速🧠AI 知识挑战🏗️系统设计画布
🎯模拟面试进入实验室→
🚀

职业发展

🚀
面试发射台

开启你的旅程

🌟
行为面试精通

掌握软技能

💻
技术面试

通过编程轮次

🤖
AI与ML面试

ML面试精通

🏆
Offer与未来

拿下最好的Offer

立即开始
AIUnlimited

AI 教育平台

沪ICP备18025655号-11

学习

  • AI基础
  • AI实战
  • Claude学院
  • 实验室
  • 职业发展

社区

  • 关于
  • 常见问题

支持

  • 服务条款
  • 隐私政策
  • 联系我们
AI & 工程学习计划›📖 理解开源模型›课程›没有资源也能玩开源模型,因为这里资源免费
🆓
理解开源模型 • 入门⏱️ 10 分钟阅读

没有资源也能玩开源模型,因为这里资源免费

没有资源也能玩开源模型,因为这里资源免费

模型找到了,数据也准备好了,结果卡在了最后一个问题上,没有资源跑,

自己的电脑没有显卡,或者显存不够,甚至连内存都不够,这太让人心痛了~

没关系,可以先用魔搭提供的免费资源,

魔搭Notebook把开发环境放在了云端,打开浏览器,就能写代码、处理数据,也能在免费GPU额度内尝试模型推理和小规模微调。

刚开始学习开源模型,不必先买一台新电脑,先把一个小实验跑起来,看看自己究竟需要多少资源。

免费资源有多少,先看清楚再用

魔搭提供免费CPU环境,也提供有时长限制的GPU环境,免费资源包括下面这些,

资源

配置与额度

可以先用来做什么

CPU环境

8核CPU、32GB内存,免费使用时长不限

下载文件、处理数据、调试代码

GPU环境

NVIDIA A10、24GB显存,36小时免费时长

适合该显存规模的模型推理和小规模微调

存储空间

100GB持久化存储

保存代码、模型、数据和实验结果

打开浏览器,先把Notebook启动起来

登录魔搭,进入我的Notebook,如果页面提示需要完成账号绑定或认证,按页面指引操作,再选择CPU或GPU环境。选好后,点击“启动”,等待实例创建。

正文配图

实例就绪后,点击查看Notebook进入开发页面,下方截图里会出现体验新版的提示,按提示进入即可;界面更新后,以当前入口为准。

正文配图

文件存在哪里,这件事要记住

进入环境后,可以在左侧文件区上传自己的代码和数据,也可以把需要的结果下载回本地。

正文配图

需要保留的文件,放在/mnt/workspace目录下, 魔搭提供的100GB持久化存储挂载在这里,其他路径中的文件默认会在实例关闭后不会继续保留。

可以在这个目录下分别建立模型、数据和输出文件夹,后面找东西会方便一些。在终端执行下面的命令即可。

mkdir -p /mnt/workspace/models /mnt/workspace/data /mnt/workspace/outputs

下载模型时,也可以直接指定保存位置。

from modelscope import snapshot_download

model_dir = snapshot_download(
    'Qwen/Qwen3-0.6B',
    local_dir='/mnt/workspace/models/Qwen3-0.6B',
)
print(model_dir)

如果想看看已经用了多少存储,在终端执行下面这条命令。

du -sh /mnt/workspace

模型文件容易占空间,不再需要的版本可以及时清理。重要代码和实验结果也可以定期下载一份到本地。

先运行一行代码,后面就好办了

在文件区新建一个test.ipynb文件,打开后添加代码单元格。第一次可以先写一行简单的Python。

print('你好,魔搭Notebook!')

点击代码单元格左侧的运行按钮,输出会显示在下方。看到这句话,就说明你已经成功在云端执行了代码。

正文配图

需要安装ModelScope时,可以在代码单元格里运行下面的命令。

%pip install -U modelscope
第 4 课,共 4 课已完成 0%
←数据,是你要做开源模型微调的基石

讨论

登录 参与讨论

然后新建一个单元格,粘贴前面的模型下载代码。需要读取数据时,也可以继续添加MsDataset.load示例。

Notebook的方便之处就在于,代码、说明和运行结果可以放在同一个文件里,改一段、跑一段,哪里报错就回到哪里检查。

实验结束,别让GPU一直开着

免费GPU有时长限制,任务跑完后记得停止实例。只是离开页面或者关闭浏览器,不要当成已经停止了云端机器。返回Notebook页面可以查看剩余额度。

长任务要提前安排保存进度,训练得到的文件写到/mnt/workspace里。GPU额度用完后,还可以继续使用免费CPU环境处理数据和调试代码;需要更多算力时,再按需求选择活动资源或付费服务。

第一次不用把任务安排得太满,打开环境,建一个Notebook,下载一个小模型,把示例跑起来,

可以参考【30分钟看到第一个结果】章节。