如何解决哪个OpenACC指令将告诉编译器仅在设备上执行语句?
我正在使用Fortran(使用Nvidia的一系列工具)学习OpenACC,并通过将我的共轭梯度(CG)求解器的实现移植到GPU来实现。
很显然,我正在尝试使用以下命令在设备(GPU内存)上保留尽可能多的数据:
27 ! Copy matrix (a_sparse),vectors (ax - b) and scalars (alpha - pap) to GPU
28 !$acc enter data copyin(a_sparse)
29 !$acc enter data copyin(a_sparse % row(:))
30 !$acc enter data copyin(a_sparse % col(:))
31 !$acc enter data copyin(a_sparse % val(:))
32 !$acc enter data copyin(ax(:),ap(:),x(:),p(:),r(:),b(:))
33 !$acc enter data copyin(alpha,beta,rho,rho_old,pap)
从那时起,构成CG求解器的求解算法的所有操作都通过present
子句完成。对于 vector 操作,摘录如下:
49 !$acc parallel loop &
50 !$acc& present(r,b,ax)
51 do i = 1,n
52 r(i) = b(i) - ax(i)
53 end do
我对标量做同样的事情,例如:
87 !$acc kernels present(alpha,pap)
88 alpha = rho / pap
89 !$acc end kernels
所有标量变量都在设备上。在第87-89行中,我试图仅在设备上执行命令alpha = rho / pap
,以避免任何数据从主机传输到主机,但是nsight-sys profiler向我显示了以下内容:
令我惊讶的是,似乎在第87行的数据结构(红色“输入数据”方块)和之后(红色“退出数据”方块)计算结构(蓝色“ Cg.f90:87”方块)之间都有数据传输)。
谁能告诉我发生了什么事?设备上是否执行了第87-89行?此外,为什么对于这些“输入数据”和“退出数据”字段没有相应的CUDA命令?如果是这样,为什么主机和设备之间似乎要进行数据传输?如果不是,是否存在一个OpenACC命令,该命令将指导编译器仅在设备上执行编程行(不一定是循环)?
我注意到数组操作也是如此,例如我在上面的第49-53行中写的那样,那里也有一些数据传输,但是我可以将其归因于变量n
,该变量应该被传递到设备。
解决方法
可能有几件事。 Fortran指定在分配给左侧语法之前,必须对数组语法操作的右侧进行完全评估,因此编译器可能会分配一个临时数组来保存评估结果。尽管通常编译器可以优化对临时存储的需求,所以它可能是也可能不是问题。尝试使它成为一个显式循环,而不要使用数组语法来查看它是否可以解决问题。
第二种可能性是,编译器需要复制数组描述符,因为它无法确定它们是否已更改。不过,我希望看到一些数据移动,而不仅仅是进入/退出区域。
第三种可能性是,这只是当前的检查本身,它仍然会调用enter / exit运行时调用。该调用不复制数据,而是查找设备指针,该设备指针随后传递给内核调用,并且引用计数器递增/递减。
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。