我们很高兴地宣布目前可以提供适用于llama.cpp的全新OpenCL后端,这是一个得到广泛认可、并专注于大语言模型(LLM)推理的开源项目。该后端针对高通Adreno GPU进行了优化,可支持一系列流行的大型语言模型,包括最新的DeepSeek R1模型。此项成就表明在人工智能 ...