2023世界人工智能大会(WAIC 2023)于上海世博中心及世博展览馆成功举办。大会参展企业超过400家，线下参观人数突破17.7万人。速石科技也应邀参加本次大会，旗下一站式AI研发平台及AI应用Megrez首次亮相。

本次大会以“智联世界，生成未来”为主题，围绕大模型、智能芯片、类脑智能、自动驾驶、元宇宙等十大前沿方向，聚焦于AI领域的学术和研发热点问题，由包括图灵奖得主、诺贝尔奖得主、海内外院士、顶尖企业领军人才在内的逾1400位重量级嘉宾展开讨论。

在ChatGPT、Midjourney等产品引爆AIGC热度后，国内外知名科技公司也先后发布了自己的大模型，极高的关注度带动了整条人工智能产业链的发展，从而催生了行业对MLOps平台的进一步需求。

关于MLOps

与外界认知不同，在AI的完整生态体系中，模型开发在其中的占比微乎其微。

Google团队在2015年的论文中首次提出机器学习系统中存在着隐藏的技术债务，代码开发的占比仅仅如下图小黑框所示，整个机器学习的体系复杂而庞大。

来源：Hidden Technical Debt in Machine Learning Systems, NeurIPS 2015

诸如数据处理、生产环境部署、算力资源管理、多个开发环境的管理等，会降低企业的研发效率和研发人员的工作体验。

而在生产部署环节，根据IDC调查显示，在准备部署人工智能的企业中，大部分还停留在对模型的评估测试阶段，只有31%的企业将模型投入了生产环境，这其中仅三分之一的企业认为AI的部署对自己起到了正面作用。

MLOps就是将机器学习(ML)、开发(Dev)和运维(Ops)串连为一个整体，向人工智能领域提供了系统性的生产过程管理方案，从而针对性地解决前述AI领域问题。

行业对系统性的方法论和规范化的管理流程有着强烈的需求，这也是近年来MLOps产业快速发展的原因所在。

速石科技MLOps平台

作为 NVIDIA Inception Program 的一员，速石科技致力于弥合研发团队与AI基础设施间的差距，简化AI模型的研发流程，借助自身优势减少研发过程中技术和流程的重复，大幅优化企业的研发效率和体验。

速石科技旗下的MLOps平台能为企业提供端到端的一站式AI研发平台，并为AI/ML提供全生命周期的产研支持，实现AI/ML模型的部署和落地，从而帮助企业实现自身商业价值。

1、敏捷高效的一站式研发平台

速石科技MLOps平台能够为企业提供敏捷高效的一站式研发环境，缩短模型的开发周期，覆盖企业从ML/LLM模型的构建、训练到最终部署的全部需求，帮助企业更快地将ML/LLM模型推向生产环境，从而提升整体产研效率。

速石科技拥有遍布全球的服务节点，能为企业提供海量的CPU、GPU、TPU等异构资源，并能提供数据运营(DataOps)和存储方案等底层支持。平台内多种即开即用的工具、可视化的操作界面和工作流设置，则能减少研发人员的学习成本，允许企业快速完成环境设置，随时开启研发工作。

2、帮助企业实现降本增效

速石科技一站式的研发服务也能帮助企业缩短AI项目的研发周期，实现快速迭代，帮助企业更快地将AI产品投入生产环节，实现自身商业价值。

速石科技通过集群实现对云端和本地算力的统一管理，并通过自研调度器Fsched确保每个用户都能及时获取所需资源，减少任务排队和资源浪费，从而提升企业研发的投资回报率。

Fsched调度器能够实现任务调度自动化，加快模型研发和迭代的速度，实现敏捷交付。在任务高峰期，Fsched还能自动为团队补充云端算力以防任务中断。速石科技的自动集群管理与弹性资源扩充解放了团队精力，帮助企业有效提升研发效率，控制研发成本。

可视化的监控仪表盘可以让企业从多个维度查看资产利用情况，并通过速石科技的身份系统管理用户的访问权限和资源上限，进一步优化企业资源的投入产出比。

3、数字资产管理

随着AI的飞速发展，数据、算法、模型和特征等数字资产的重要性逐渐突显。

速石科技能够提供多维度的监控告警及审核日志，能够追溯操作记录，帮助企业了解数字资产的使用情况，增强企业的数字资产安全保障。

结合企业内部安全策略，速石科技能为企业提供安全可控的访问环境，通过身份认证、权限管理、数据隔离等功能，简化访问管理，并实现对数字资产的全面管理和控制。

速石科技AI应用

AI应用落地是所有研发环节中最后一环，也是最重要的一环。在AIGC应用百花齐放的这波浪潮中，速石科技作为MLOps平台的提供方，同时也是其使用方。

速石科技已经发布一款行业知识库聊天应用Megrez，这款聊天应用面向企业客户提供大语言模型的私有化部署能力，解决了许多企业用户关注的数据安全问题，它也允许用户自定义行业知识库，实现领域知识的问答。

Megrez基于芯片设计领域提供的支持

速石科技支持用户在平台上自定义这款应用的部署，实现从基础架构到最终应用的端到端掌控。

结语

AI工程化是产业发展的必经之路，AI真正成为生产力工具，就必须借助MLOps等工程化技术来解决开发、训练和部署等全链路生命周期的问题。

速石科技在云平台、团队协同、数据管理、工作流优化和应用部署等层面的积累，能够为企业提供优质的、可落地的系统性研发支持，帮助企业优化部署流程。

在未来，速石科技将在此基础上积极探索，助力企业的可持续发展，推动行业形成人工智能生态闭环。

关于速石

速石科技(fastone)致力于构建为应用定义的云，让任何应用程序，始终以自动化、更优化和可扩展的方式，在任何基础架构上运行。

我们为创新驱动型用户提供为应用优化的一站式研发云平台，满足半导体、新药研发、汽车/智能制造、人工智能、金融科技等企业及高校科研机构多种研发场景需求。基于本地+公有混合云环境的灵活部署及交付，帮助用户提升20倍研发效率，降低成本达到75%以上，加快市场响应速度，面向全球开展竞争。

关键词：