Jan
开源
AI训练模型

Jan

本地运行大模型并进行AI对话的工具,免费开源

标签:

Jan:一款免费开源的本地运行大模型AI聊天工具

Jan(jan.ai)是一个免费开源的工具,旨在帮助用户在本地电脑(Windows、Mac、Linux)上安装、部署、运行并使用开源版本的ChatGPT及其他大模型,例如LLaMa、Mistral、Phi-2等20多个模型。用户还可以输入自己的OpenAI API Key以运行GPT。

主要功能

  • 本地运行开源大模型:支持LlaMa、Mistral、Phi-2、DeepSeek、Yi等20多个模型,用户可以手动导入模型,也可以从模型库下载所需模型。
  • 简洁好用的聊天界面:软件界面清新简洁、直观易用,方便用户直接在本地与开源大模型进行对话聊天。
  • 支持多个平台:Jan支持在Windows、Mac(Intel、M1/M2/M3)和Linux等操作系统运行,未来还将推出移动端APP。
  • 内置API服务器:Jan与OpenAI API兼容,用户可以通过API获取模型信息、下载、启动、停止模型及聊天等操作。

如何使用Jan

  1. 访问Jan的官网(jan.ai),根据您的电脑操作系统版本,点击Download进行下载。
  2. 下载完成后,安装并打开软件。
  3. 在软件界面的左下角点击Download your first model,进入模型库Hub界面。
  4. 从模型库中选择您感兴趣的模型进行下载,下载完成后点击Use使用该模型。
  5. 在对话界面输入您的描述,即可与您选择的模型进行对话。

Jan仍在持续开发中,未来将支持移动端APP、创建AI助理、推理引擎、插件扩展等功能。

相关AI网站

暂无评论

暂无评论...