未来AI需要怎样的基础设施？

商汤科技尝试给出答案

 

    未来AI的发展方向究竟路向何方？中国的一批代表性人工智能企业正不断探索方向。

    作为人工智能软件公司，商汤科技坚持原创持续引领人工智能前沿研究，持续打造更具拓展性更普惠的人工智能软件平台，推动经济、社会和人类的发展，正不断吸引及培养顶尖人才。

 

为AI 2.0时代提供参考

 

    不久前，商汤联合发布《新一代人工智能基础设施白皮书》，解读AI 2.0时代“新基建”。

    商汤科技智能产业研究院与中国信息通信研究院云计算与大数据研究所，中国智能算力产业联盟，人工智能算力产业生态联盟，联合发布《新一代人工智能基础设施白皮书》（以下简称《白皮书》）。《白皮书》不仅明确了“新一代AI基础设施”的定义、特点和价值，还首次提出“新一代AI基础设施评估体系”，为AI 2.0时代智算产业发展提供重要参考。

新一代AI基础设施成为AI 2.0时代“新基建”

 

    数据显示，过去四年，大模型参数量以年均400%复合增长，AI算力需求增长超过15万倍，远超摩尔定律。以CPU为中心的传统计算基础设施已无法满足大模型、生成式AI的新要求。大模型训练对数据质量和效率的需求，企业应用生成式AI对于MaaS（大模型即服务）的需求，也都给AI基础设施提出了全新要求。

    AI 2.0时代，需要新一代的基础设施来支撑大模型的训练与推理、生成式AI应用的规模化落地，其核心要素，如计算、存储、网络以及数据服务都要做精细化的设计和重构，而非简单的服务器或GPU实例堆砌。

    《白皮书》明确了新一代AI基础设施的定义：以大模型能力输出为核心平台，集成算力资源、数据服务和云服务，专门设计用于最大限度提升大模型和生成式AI应用的表现：数据准备与管理、大模型训练、推理、模型能力调用、生成式AI应用部署。企业通过新一代AI基础设施开发和运行生成式AI业务和客户应用程序，以及基模型和行业模型的训练与微调。

    《白皮书》指出，新一代AI基础设施的建设将降低大模型开发和应用门槛，在政企服务、产业和科研创新等方面创造更大社会价值：面向产业，将加快推进传统产业上下游各个环节的智能化转型，催生新业态、新模式的不断涌现。面向科研，可加速科学实验的自动化和智能化，激发人工智能驱动科学研究（AI for Science）的新范式。面向政务，将原本分散、碎片化的政务应用，通过“一模通办” 为政务服务提质增效。

 

人工智能高速竞争，谁来引领？

    当前，新一代AI基础设施市场处于高速竞争的初级阶段，云计算、AI原生、硬件系统等各类厂商均有各自优势。

    商汤科技的新一代AI基础设施 -SenseCore商汤大装置，在各个评估指标的得分均超过厂商平均分，并在市场响应、市场认知、产品战略、工程化建设四个评估指标拿到满分，成为新一代AI基础设施市场的领导者。

    商汤在产品服务能力呈现出较强的产品实力和技术积累，不仅超前布局了算力基础设施，还在MaaS平台以及自身大模型业务的加持下，形成了整套AI基础设施产品架构，满足客户大模型训练、生成式AI应用的大规模落地需求。

    SenseCore商汤大装置作为商汤推出的AI基础设施产品与解决方案，总体算力规模目前已达6800P，在支持商汤自身大模型研发的同时，也支持外部客户训练大模型和应用部署。今年以来，共有超1000个参数量数十亿至上千亿的大模型在大装置上完成训练，实现了领跑行业的技术迭代进度，并支持了数十款生成式AI应用。

商汤大装置全面支撑大模型训练与推理、生成式AI与应用的基础设施

 

    商汤大装置为商汤自研“日日新SenseNova”大模型体系的训练迭代提供了强大算力支撑，以及1.5万亿token和6000亿中文高质量数据，推出了商量大语言模型，AIGC等大模型，并在多个权威大模型测评榜单中位居前列。

    商汤还助力某业界领先的认知智能公司打造了高性能算力平台，提高模型训练速度和效率，已成功推出了400亿参数量的大模型，快速满足不同领域和场景需求。

    依托商汤大装置，商汤联合中公教育发布虚拟数字讲师“小鹿老师”，相比传统人工直播，不仅降低了80%录课成本，还提高了2~3倍的课程丰富度，实现教学质量和效率双重提升。

    商汤还助力微博打造“营销大模型”，让每位博主都能拥有自己的AI营销助手，短短数月便有超7000位微博达人采用AIGC生成69万篇文案，采用率高达95%。

    商汤科技相关负责人介绍，商汤科技拥有深厚的学术积累，并长期投入于原创技术研究，不断增强行业领先的多模态、多任务通用人工智能能力，涵盖感知智能、自然语言处理、决策智能、智能内容生成等关键技术领域，同时包含AI芯片、AI传感器及AI算力基础设施在内的关键能力。

    此外，商汤倡导“发展”的人工智能伦理观，并积极参与有关数据安全、隐私保护、人工智能伦理道德和可持续人工智能的行业、国家及国际标准的制订，与多个国内及多边机构就人工智能的可持续及伦理发展开展了密切合作。

    商汤《AI可持续发展道德准则》被联合国人工智能战略资源指南选录，并于2021年6月发表，是亚洲唯一获此殊荣的人工智能公司。