AIChat 白泽帮助中心
页面树结构
标题: vllm本地化部署大模型解决方案  
作者: 孙鑫 四月 07, 2025
最后修改：: 孙鑫 四月 07, 2025
微链接: (用于邮件) https://wiki.smartbi.com.cn/x/bI7sC
导出为: Word · PDF  
层级
父页面
    页面: 安装部署常见问题FAQ
标签
全局标签 (1)
最近变动
时间 编辑人  
四月 07, 2025 09:31 孙鑫 查看变化
四月 07, 2025 09:28 孙鑫  
链出链接
外部链接(13)
    https://developer.nvidia.com/cuda-12-4-0-download-archive?t…
    https://github.com/Dao-AILab/flash-attention/releases/downl…
    https://pypi.tuna.tsinghua.edu.cn/simple
    https://github.com/vllm-project/vllm.git
    https://flashinfer.ai/whl/
    PATH/usr/local/cuda/bin
    https://modelscope.cn/models/
    https://repo.anaconda.com/miniconda/Miniconda3-py39_25.1.1-…
    https://pytorch.org/
    https://flashinfer.ai/whl/cu124/torch2.6/
    https://repo.anaconda.com/miniconda/
    https://github.com/Dao-AILab/flash-attention/releases
    https://modelscope.cn/datasets/gliang1001/ShareGPT_V3_unfil…
AIChat 白泽帮助中心 (1)     页面: vllm本地化部署大模型解决方案