赛轮思与英伟达合作开创CaLLM™技术 赋能未来车内体验
盖世汽车讯 12月19日,汽车软件公司赛轮思(Cerence)宣布推出由英伟达(NVIDIA)技术提供支持的开创性汽车专用大型语言模型CaLLM™。
图片来源:赛轮思
CaLLM™(Cerence Automotive Large Language Mode,赛轮思汽车大型语言模型)是赛轮思下一代车载计算平台的基础,在英伟达DRIVE平台上运行。赛轮思与英伟达合作,可解决汽车制造商面临的几个关键挑战:通过与现有嵌入式系统和新生成式AI驱动域的云集成来部署新的用户体验,加快上市时间,从而在驾驶员对智能车载功能需求日益增长的情况下,为OEM提供优势。
随着汽车制造商和移动出行OEM寻求利用生成式AI和LLMs来改善用户体验,CaLLM™满足了多项关键需求。该大模型具有独特的汽车专用智能水平,利用赛轮思丰富的汽车专业知识和经过微调、不断增长的包含数十亿代币的汽车数据集,提供超越一般LLM的集成车内用户体验。
CaLLM™能够支持汽车功能、特性和要求,并且可以通过培训、微调和定制应用程序为汽车制造商进行深度定制。其功能包括用户个性化以及针对赛轮思的生成式人工智能应用程序(例如赛轮思Car Knowledge)的内置信息检索。
赛轮思利用英伟达AI代工服务构建CaLLM™,其中包括英伟达AI基础模型(Foundation Models)、英伟达AI Enterprise软件和英伟达加速计算。赛轮思将首先利用英伟达DGX Cloud和英伟达DGX系统在其广泛的数据集上训练CaLLM™,然后开发车内用户体验所需的功能。其次,为了帮助实现超快的用户体验,赛轮思将通过英伟达AI Enterprise在英伟达的加速基础设施中部署CaLLM™,其中英伟达AI Enterprise是一个端到端、云原生、安全的软件平台,可通过英伟达NeMo框架和英伟达TensorRT-LLM优化库,加速训练、微调和推理LLM。
赛轮思首席技术官Iqbal Arshad表示:“我们将提供突破性的车载计算平台。该平台利用我们的垂直技术堆栈,允许用户通过统一的对话界面跨应用程序完成任务。当与英伟达业界领先的AI框架和平台相结合时,我们的独家数据集、与汽车制造商的深厚关系以及广泛的市场渗透率使我们处于理想的位置,能够凭借我们开创性的汽车专用LLM、CaLLM™和内部车载计算平台来引领行业发展。展望未来,我们看到这种专有架构也有利于汽车以外的行业领导者。”
CaLLM™在构建未来汽车方面发挥着关键作用,是赛轮思全新车载计算平台的基础。该平台是车内交互的未来,是一种汽车和移动出行专用助手,可提供集成的车内体验。虽然之前的解决方案需要将多步骤交互作为不同的单独步骤进行,从而导致过多的手动交互并给驾驶员带来很高的认知负担,但赛轮思的新平台将用户交互的各个方面结合到一个无缝且直观的对话界面中。通过在对话界面中重新构想原始设备制造商的现有应用程序,同时提供新的基于人工智能的生成服务,赛轮思新平台将为原始设备制造商实现平稳过渡。