AI应用
AI开发工具链
AI开发工具链覆盖从环境配置到模型部署的完整流程。Jupyter/vLLM/MLflow/FastAPI是核心工具。
核心要点
- 开发环境:Jupyter Notebook、Colab、VS Code + Continue/Copilot
- 实验管理:MLflow(追踪)、Weights&Biases(可视化)、Optuna(超参搜索)
- 模型部署:vLLM(推理引擎)、TGI(文本生成推理)、ONNX/TensorRT(导出)
- API服务:FastAPI(高性能)、Triton(多模型管理)、Gradio(演示)
- 版本管理:DVC(数据版本)、Git LFS(模型文件)