2024 / 03 / 14
生成式AI落地,又添新利器!

2023年,AI大模型的颠覆式创新应用让消费市场应接不暇,承包了科技圈的大部分热点,但与之相对的,企业市场对于生成式AI的落地探索仍然在路上。

3月14日,华为中国合作伙伴大会2024在深圳盛大开幕。大会开幕当天,神州数码带来对生成式AI技术在企业级业务场景落地应用的思考,并正式发布全新智算系列新品——神州鲲泰问学一体机,助力企业生成式AI落地再进一程。

20221210003345.jpg

每一个企业用户都意味着一个独立的差异化细分市场和行业场景,而通用大模型往往需要大量的训练才能从“通才”变为“专才”,在企业实际业务场景中发挥价值和优势。而对于那些对数据保密性要求较高的企业而言,如何将自身的核心数据资产安全的“训练”成所需的大模型能力,并在实际业务场景中真正解决某个问题,则是更为谨慎的思考。

20221210003345.jpg

兼顾企业级客户对生成式AI敏捷落地和私域部署的安全性需求,神州数码充分运用自身在算力+AI领域软硬件产品的自主创新能力,集神州鲲泰智算服务器与神州问学软件平台的优势所长,联合打造神州鲲泰问学一体机,为企业提供私域生成式AI敏捷落地的软硬一体解决方案,以及丰富的AI模型应用,助力企业客户用自己的数据定制专属AI模型,实现业务创新。

20221210003345.jpg

强大算力为敏捷业务创造广阔空间

神州鲲泰问学一体机拥有“KunTai WX210-K”推理型一体机和“KunTai WX510-K”训练型一体机两种产品型号,搭载“鲲鹏+昇腾”主板,最大支持200B参量的大模型训练和微调。在业界模型参数大多居于6B~130B的情况下,200B参量为企业用户的模型训练和推理提供了强大的计算能力,让AI算力模型不再为有限的算力资源“捉襟见肘”。

此外,神州鲲泰问学一体机的强大计算能力,能支持多个大模型的并行训推,用户可以根据自身业务进展与变化,灵活安排模型训推任务,通过对算力资源的动态分配,显著提高计算资源的利用效率;同时,基于神州鲲泰训推一体的硬件能力可以实现对模型训练推理的无缝切换,训练得出的模型能第一时间运用到推理和应用中,并通过新一轮数据对模型进行高效的验证和迭代,这能有效缩短模型的训练周期,同时提高模型的适用性和准确度,节省用户大量成本。强大的算力为企业用户的模型训推提供更广阔空间,让企业用户能更从容的安排训推任务,更高效、更优质的完成模型训练,更敏捷应对业务变化和挑战。

深度适配实现软硬一体交付
私域算力开箱即用

神州鲲泰问学一体机实现了神州鲲泰算力服务器与神州问学软件平台的一体化设计,底层的深度适配能在客户端实现软硬一体交付,省略客户软硬件调试成本和兼容问题,达到开箱即用的效果,满足客户私域算力的便捷部署。对于很多企业用户而言,自身的关键业务数据无疑是核心资产,部分行业(比如金融)甚至出台相关规定,严格管理相关数据的流动。对于神州鲲泰问学一体机而言,所有数据资产以及核心算法模型都运行在企业本地,有效保障客户数据和模型安全。

快速的数据积累
个性定制打造企业的专属大模型

神州鲲泰问学一体机内置神州问学AI PaaS云原生集成平台,能帮助客户实现自身私域知识库的快速构建,支持客户专属大模型定制,最快5分钟即可实现AI应用的灵活构建与开发。得益于20+主流大模型的全面覆盖,通过内置多行业语料数据集及多类型向量数据库、内置AI应用低代码开发平台和RAG、Agent等多种能力以及内置标准化AI应用开发框架,企业用户可以通过神州鲲泰问学一体机针对应用场景、行业发展以及内部数字化进行AI应用的定制化开发,并在此过程中快速积累核心数字资产,当积累达到一定程度企业用户就能在神州鲲泰问学一体机的帮助下将自身的宝贵数据资产打造成专属大模型,这将更贴合企业用户的业务实际,帮助实现业务创新与价值飞跃。

在云原生、数字原生、AI原生技术加速融合、蓬勃发展的当下,神州鲲泰问学一体机为客户打造了一个算力更强大、部署更便捷、应用模型定制化、业务应对更敏捷的企业级一站式生成式AI平台,助力企业用户在AI智能时代的竞争中赢得优势。