我有一个相当大的模型需要运行(至少需要30 GB的内存),但每次我启动一个新实例时,我只能调整CPU的内存,而无法调整GPU的内存。在Google的AI笔记本服务上,有没有办法增加GPU的内存呢?
谢谢你的帮助。
回答:
简而言之:你做不到。你可以考虑切换到Colab Pro,它提供更好的GPU,例如:
使用Colab Pro,你可以优先访问我们最快的GPU。例如,在非订阅用户只能使用K80时,你可能可以访问T4和P100 GPU。你还可以优先访问TPU。不过,Colab Pro仍然有使用限制,且可用的GPU和TPU类型可能会随时间变化。
在Colab的免费版本中,对更快GPU的访问非常有限,且使用限制远低于Colab Pro。
尽管如此,不要指望仅以每月约10美元的价格就能独享顶级GPU。如果你需要高内存的专用GPU,你很可能需要使用专用服务。你应该能轻松找到每小时不到1美元的24 GB显卡服务。