金融界2024年4月10日消息,据国家知识产权局公告,上海网达软件股份有限公司申请一项名为“一种适用于边缘AI设备的检测方法、设备及存储介质“,公开号CN117853878A,申请日期为2023年12月。
专利摘要显示,本发明涉及AI人工智能技术领域,具体地,涉及一种适用于边缘AI设备的检测方法、设备及存储介质。与现有技术相比,本申请提出的技术方案具有如下的有益效果:本发明从模型结构、硬件加速和动态调整策略等多个角度出发,提供了一套综合而创新的技术方案。通过引入NVIDIA‑DALI并行处理,提升预处理速度。推理优化方面使用Triton inference server(模型推理服务器)架构,实现异步多模型推理,通过硬件并行计算,充分发挥GPU硬件平台的性能。此外,本发明提出动态调整输入分辨率和推理精度的方法,以在不同场景下平衡性能和速度。
来源:金融界