[MarioLulab]

PR types

Others

PR changes

Others

Description

任务 issue: #58067

PIR API 推全升级
将 paddle.incubate.nn.FusedMultiHeadAttention 迁移升级至 pir，并更新单测，单测覆盖率（1/2）

TODO: test/legacy_test/static_model_parallel_fused_attention.py 中的 TestModelParallel 未测试，因为当前暂不支持 pir 模式下的反向

将 paddle.incubate.nn.FusedBiasDropoutResidualLayerNorm 迁移升级至 pir，并更新单测，单测覆盖率（x/x）

TODO: 暂时搁置，因为无法自动生成 C++ 端的api

将 paddle.incubate.nn.FusedFeedForward 迁移升级至 pir，并更新单测，单测覆盖率（2/5）

主要工作：

1. 修复原先存在于 APITestStaticFusedFFN 里的 bug
2. APITestStaticFusedFFN 单测中原先是对两个不同的网络在同一个 Program 下组网，并对比结果。现在拆分成两个 Program，修复了 Exception: There is a fetch op in Program which will fetch variable that is not belong to fetch_targets 的问题

TODO:

1. test/legacy_test/static_model_parallel_fused_feedforward.py 中的 TestModelParallel 未测试，因为当前暂不支持 pir 模式下的反向
2. 跳过 pir 模式下的 test/legacy_test/test_fused_feedforward_op.py 中的 TestFusedFFNOpError 的 test_errors 输入 dtype 检查
3. 跳过 test/legacy_test/test_static_model_parallel_fused_attention.py
4. 跳过 test/legacy_test/test_static_model_parallel_fused_feedforward.py

[paddle-bot]

你的PR提交成功，感谢你对开源项目的贡献!
请关注后续CI自动化测试结果，详情请参考Paddle-CI手册。
Your PR has been submitted. Thanks for your contribution!
Please wait for the result of CI firstly. See Paddle CI Manual for details.

[paddle-bot]

✅ This PR's description meets the template requirements!
Please wait for other CI results.

[0x45f]

paddle.incubate.nn.FusedBiasDropoutResidualLayerNorm 适配需要先将kernel迁移到phi下，然后再做pir的适配，大概做法已经同步给陆琦~

[sunzhongkai588]

no docs changes，LGTM

[XiaoguangHu01]

LGTM