大模型时代，火山引擎AI技术助力数字校园建设
2024-03-27 17:14:15 作者：姚立伟
3月25-26日，由上海市高等教育学会、智慧高校CIO信息化专业委员和WRE Digital联合主办的“第七届智慧高校CIO上海论坛”隆重召开。火山引擎凭借在教育信息化领域的产品深耕和亮眼表现，获得了“智慧高校解决方案综合实力卓越奖”。
本届大会以“协同创新，共赢数字教育新未来”为主题，众多高校的信息化建设决策者，教育行业信息化解决方案服务商齐聚，并围绕“智慧校园、智慧教学、智慧管理、智慧科研”等热门话题，分享先进经验，探讨智慧校园建设未来路径，推动AI、大数据、云计算等新技术在教育场景的落地应用。
火山引擎教育行业解决方案高级总监李峪受邀参会，并发表了《AI+高等教育：火山引擎教育行业大模型解决方案》主题演讲，与现场嘉宾分享了火山引擎大模型方案在教育行业的场景路线探索和应用实践。
面向学校的AI应用开发平台，加速大模型落地
在通用大模型的发展推动下，各个行业都在打造垂直类大模型，教育行业也不例外。教育大模型的应用让很多以前难以实现的任务变得触手可及，比如，师生能轻松使用AI工具生成图片、音视频，个人的综合能力得到提升。另外，在个性化推荐、科研、知识问答、论文写作等方面，AI大模型也发挥了重要作用，甚至改变了招生、就业、教学管理的方式。
但是，教育大模型的建设在能力、数据、算力等方面仍面临诸多现实问题。从场景方面看，大模型幻觉问题频繁出现，对于模型本身来讲，通用模型距离世界顶尖水平仍有差距，教育领域的知识库建设还有不足。
为了解决上述挑战，火山引擎基于对教育行业的深度理解，从基础设施、模型支持、模型服务和场景服务多层面着手，帮助学校降低模型开发门槛，提升应用效率。火山引擎着力构建面向学校的AI应用开发平台，具有知识库、工作流、Prompt编排能力，让学校快速进行各类定制化开发与集成工作，同时可按需接入多个大语言模型。基于此平台的应用开发场景，包括会议助手、智能客服、内容协作生成以及代码辅助开发。
教学评估这一基于大模型的数据分析场景，也是火山引擎重点关注的方向。通过火山引擎管理驾驶舱，实现了数据驱动管理决策和高效服务师生的目标，集成其他平台数据还可形成统一移动端数据门户，校领导能针对指标疑问随时沟通教学管理问题，教师同利用AI管理助手精准问数，很好地支撑数字校园建设。
用好大模型，关注数据治理、算力和向量数据库
大模型时代，AI与数据治理相互依存，火山引擎以DataOps方法为支撑，帮助学校构建起高效协同机制和标准化数据研发规范，打造全链路融合平台，完成精细化数据运营，从而实现：
·AI+数据资产=找数助手：问答式检索、表、数据集、指标、口径、业务知识都能查询，实现高效准确找数，这是教职员工自助数据消费的第一步；
·AI+数据生产=开发助手：代码生成、一键优化、智能问答，通过自然语言辅助数仓研发，让数据开发简单高效且便捷；
·AI+数据洞察=分析助手：SQL查询修复、自动生成表达式、仪表盘探索分析、飞书对话式分析，让教职员工从各种报表中解放出来，随时随地进行数据分析。
用好大模型，还离不开向量数据库。以知识库构建为例，可以把向量数据库和大模型结合起来进行知识库检索。火山引擎向量数据库为大模型配置记忆体，支持百亿级向量检索，检索性能在5ms以内，采用多种自研算法提升计算查询能力，广泛应用于文本、图像、音频等多模态数据检索。
火山引擎的独立算力池，能够更好解决大模型训练、精调、推理过程中的算力瓶颈，此外还从大模型备案、训练过程、数据合规、用户访问等多角度进行大模型安全的整体建设，充分的保障模型提供商和推理客户的模型安全，使大模型的服务输出合规、合法。
教育大模型建设是一个持续完善优化的过程，火山引擎期待与各大高校共同探索前沿AI在教育领域的应用，为智慧校园注入更多发展新动能。