GPU算力
-
AI 训练任务有没有用到 GPU?用 nvidia-smi 看利用率和进程
在 NVIDIA 驱动环境连续观察 GPU 利用率、显存和训练进程,判断任务是否使用设备。
-
PyTorch 显存占用怎么排查?看已分配、缓存与峰值
用 PyTorch CUDA 内存计数器分辨张量占用、缓存保留与进程峰值,再比较改动前后。
-
PyTorch Profiler 怎么找 GPU 推理瓶颈?查看算子耗时
用 PyTorch Profiler 给 CUDA 推理片段记录算子耗时,区分程序瓶颈与硬件评测。
-
PyTorch 混合精度训练怎么用?接入 autocast 与 GradScaler
按 PyTorch 官方 AMP 文档在 CUDA 训练循环中接入 autocast 与 GradScaler,并核验损失和基线。
-
ChatGPT硬件怎么实现的?完整使用步骤、操作方法与注意事项
ChatGPT硬件怎么实现的:工具对比、操作步骤与注意事项完整指南。