官方OpenAI直接可以接入,对于其他厂商的模型,我们只需要配置好模型名称以及该模型的服务地址即server_url即可。 这里为了 ...
如果python版本高于3.10,例如3.11、3.12、3.13,请使用conda(anaconda或miniconda)或者mamba创建环境(可能也可以用pyenv设置,暂未验证) conda create -n webui python=3.10 conda activate webui # 取消激活时使用 conda deactivate conda install pip ...
知识蒸馏是一种模型压缩技术,通过训练一个小而高效的学生模型来模仿一个预训练的大且复杂的教师模型(或一组模型)的行为。这种训练设置通常被称为“教师-学生”模式,其中大型模型作为教师,小型模型作为学生。教师模型的知识通过最小化损失函数 ...