AI-Optimized Kernels Beat NVIDIA cuBLAS with Reinforcement Learning

CUDA-L2是一个创新系统,结合大语言模型(LLM)和强化学习(RL)自动优化半精度矩阵乘法(HGEMM)CUDA内核。在A100 GPU上测试的1000个配置中,它显著超越了torch.matmul以及NVIDIA的专有库cuBLAS、cuBLASLt-heuristic和cuBLASLt-AutoT的性能。项目开源于GitHub,提供详细安装指南、环境配置、评估脚本和FAQ,支持离线和服务器模式执行。其核心价值在于利用AI技术提升计算效率,对AI开发者、研究人员和芯片行业具有重要参考价值,特别是在加速大语言模型训练和推理方面。未来计划扩展到更多GPU架构和配置。

原文链接:Hacker News

C code80.ai · AI 编码 API 聚合 Claude / GPT 多模型统一接入,稳定不限速,按量计费,几行配置接入 Claude Code。 了解一下 ›

抢沙发

评论前必须登录!

立即登录   注册