目前 AI 模型本地部署安装软件有哪些推荐?

小伟 3月前  AI   919

访问国外的 AI 网站(如ChatGPT、Gemini等)都需要科学上网,办公网络又不允许,有时候要用一下 GPT 很麻烦,想在本机上自己搭建部署 AI 大模型来运行,这样就免去了科学上网的烦恼,请问现在有哪些本地的 AI 安装运行软件?

2 个回答
  • 孤城浪人 3月前
    2
    Jan
    官网:jan.ai
    2 回复引用 引用
  • 小何同志 3月前
    3
    目前最有名的就是三款:
    Ollama、LM Studio和Jan
    Ollama配合Chatbox,我早上刚搭建了,用的是 Google 的 gemma(2b)模型,因为我笔记本配置不高。配置高的话,推荐 gemma(7b)模型。
    2 回复引用 引用
    • 探知网
      4
        立即登录 立即注册
返回
发新帖