Youmeng’s Blog

New

用 VS Code + Colab 自己部署破限模型

最近很多人搞了土区的 Google AI Ultra 20x,刚好我也弄了一个账号。平时经常干坏事,需要用到模型破限,现在有了最大96 G 显存的羊毛,可以自己部署一个无审查的模型,干啥都行,速度还很快,我部署 G4 之后用这个可以跑出 73 tok/s,基本飞快了。 …

分享前端开发、AI 工作流、海外工具实践与值得收藏的 X 文章
Theme Pure, Powered by Hexo | RSS