国内大语言模型

序号名字网址访问方式备注
1Kimi Chathttps://www.moonshot.cnweb + app月之暗面 Moonshot
2智谱清言https://chatglm.cnweb + app智谱
3通义千问https://tongyi.aliyun.comweb + app阿里
4文心一言https://yiyan.baidu.comweb + app百度
5海螺问问https://yingshi-ai.com （原名「应事AI助手」）web + appMinimax
6讯飞星火https://xinghuo.xfyun.cnweb + app讯飞
7抖音豆包https://www.doubao.comweb + app抖音
8360智脑https://ai.360.cnweb + app360
9混元助手https://hunyuan.tencent.com/bot/chatweb + mini app腾讯
10百川智能https://www.baichuan-ai.comweb搜狗
11商汤商量https://chat.sensetime.comweb商汤
12紫东太初https://taichu-web.ia.ac.cnweb中科院
13DeepSeekhttps://chat.deepseek.comweb
14零一万物https://01.ai模型开
15书生・浦语https://intern-ai.org.cn模型
16华为盘古https://pangu.huaweicloud.com无开放给企业申请

生产环境运行 LLM

  1. vLLM： https://docs.vllm.ai/en/latest/
  2. Triton TensorRT-LLM： https://github.com/NVIDIA/TensorRT-LLM
  3. BentoML： https://github.com/bentoml/BentoML

消费级 PC 运行 LLM

  1. https://github.com/ggerganov/llama.cpp
  2. https://github.com/SJTU-IPADS/PowerInfer
  3. https://ollama.ai ， https://github.com/ollama-webui/ollama-webui
  4. https://gpt4all.io/index.html
  5. https://github.com/oobabooga/text-generation-webui
  6. https://github.com/imartinez/privateGPT
  7. https://github.com/xorbitsai/inference
  8. https://github.com/withcatai/catai 基于 node-llama-cpp
  9. https://lmstudio.ai
  10. https://github.com/langchain-ai/langchain
  11. https://github.com/mudler/LocalAI