如何解决NVIDIA Visual Profiler:内核边界数据不足
我试图了解为什么我的CUDA内核的性能相对较低,我希望可以使用NVIDIA Profiler获得一些答案。
我的CUDA程序是大型应用程序的“精简版”,隔离并使用了相关内核。该程序会多次启动内核,以衡量其多次启动的执行时间。定时循环后,将发出从设备到主机的内存副本,以确保所有内核调用均已完成。该程序是用CUDA C ++编写的。
这是我构建程序的方式:
main.o: main.cu
nvcc -res-usage -arch=sm_61 -c $<
main: main.o stopwatch.o
g++ -o $@ $^ -lcudart -L/usr/local/cuda-11.0/lib64
该测试是在装有Intel CPU和NVIDIA GeForce GTX 1070的PC上完成的。该操作系统是Ubuntu 20.04,具有来自NVIDIA网站的新安装的CUDA 11和驱动程序450.51.06:
nvidia-smi:
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 450.51.06 Driver Version: 450.51.06 CUDA Version: 11.0 |
|-------------------------------+----------------------+----------------------+
| GPU Name Persistence-M| Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|===============================+======================+======================|
| 0 GeForce GTX 1070 On | 00000000:01:00.0 On | N/A |
| 28% 38C P8 8W / 151W | 317MiB / 8111MiB | 3% Default |
| | | N/A |
+-------------------------------+----------------------+----------------------+
以下命令用于生成概要文件:
sudo /usr/local/cuda-11.0/bin/nvprof -o main.nvvp --profile-from-start 关闭./main
我也从一开始就尝试进行性能分析,但这在下面也导致了同样的问题。
以下命令用于启动可视分析器:
nvvp -vm / usr / lib / jvm / java-8-openjdk-amd64 / jre / bin / java main.nvvp
Visual profiler指导我完成几个步骤,当涉及到“ Perform Kernel Analysis”时,程序将告诉我:
内核边界数据不足。计算所需的数据, 内存,无法收集内核的延迟范围
GPU上没有这种详细的配置文件吗? (也许是因为它是玩家卡)
解决方法
nvprof
默认情况下将仅在生成的输出文件中捕获少量信息。将输出文件导入到nvvp
中时,这足以生成应用程序时间轴,但没有足够的信息来启用nvvp
的所有不同功能。
根据documentation,建议将--analysis-metrics
的{{1}}开关用于此类使用。
nvprof
被引用了大约6个不同的时间,因此您可能只想对其进行搜索以查看所有参考或使用建议。
请注意,--analysis-metrics
可以捕获大量信息。对于大型,复杂的应用程序,可能会大大增加分析器花费在处理数据上的时间。因此,如果您明确知道要查找的数据,则可能希望指定特定的指标。但是,如果没有--analysis-metrics
,则在导入文件时,各种--analysis-metrics
分析工具可能无法正常工作。
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。