此芯p1开发板使用OpenHarmony时llama.cpp不同优化速度对比(GPU vs CPU)
硬件环境 Cix P1 SoC 瑞莎星睿 O6 开发板 + rx580显卡 产品介绍: https://docs.radxa.com/orion/o6/getting-started/introduction OpenHarmony 5.0.0 使用vulkan后端的llama.cpp (GPU) # ./llama-bench -m /data/qwen1_5-0_5b-chat-q2_k.gg
所有评论(0)