8月22日消息，微软公司最近发布了引人瞩目的新工具——Microsoft Olive。该工具被设计用来加速搭载AMD GPU的显卡在处理模型时的性能，据称可以将性能提升高达9.9倍。
Microsoft Olive采用Python语言开发，旨在优化AMD GPU在执行大型语言模型时的效率。
据报道，当Radeon RX 7900 XTX GPU启用Microsoft Olive工具后，以Stable Diffusion模型为例，其在基于文本生成图像的任务上取得了显著的性能提升。
微软表示，Microsoft Olive不仅可以对模型进行转换、优化、量化，还能够自动进行调优，以实现最大化的性能输出。根据AMD的官方测试结果，使用默认的PyTorch路径进行运算时，AMD Radeon RX 7900 XTX每秒可以执行1.87次迭代。然而，在应用Microsoft Olive工具对模型进行优化后，该GPU的每秒迭代次数提升至18.59次。
据ITBEAR科技资讯了解，这一重大发布表明Microsoft Olive工具在提升AMD GPU运行大型语言模型性能方面具有巨大潜力，预计将在机器学习和人工智能领域产生深远影响。不仅如此，该工具的推出也为科研人员和开发者提供了一个有力的工具，以便更高效地利用GPU在复杂任务上取得突破。这一创新有望推动人工智能应用的发展，为未来的技术进步开辟新的道路。
版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 dio@foxmail.com 举报，一经查实，本站将立刻删除。