6月30日,百度正式发布文心大模型4.5系列开源模型。英特尔借助OpenVINO在模型发布的第零日即实现对文心端侧模型的适配和在英特尔酷睿Ultra平台上的端侧部署。此次OpenVINO已对0.3B参数量的稠密模型成功适配,并在英特尔酷睿Ultra平台上成功部署且获得了优异的推理性能。
从2021年开始,百度飞桨和英特尔OpenVINO进行深入合作,双方进行深度适配,为开发者提供了更有效更便捷的AI开发工具链。经过双方适配的众多模型,如PaddleOCR,PaddleSeg,PaddleDection等,在金融、医疗、智能智造等领域被广泛应用,开发者可以直接将飞桨模型用OpenVINO推理和部署,或通过OpenVINO的模型优化器转化为IR格式,进一步部署和推理。(全天候科技)
配资平台提示:文章来自网络,不代表本站观点。