CFS2024第十三届财经峰会暨Amazing 2024创新企业家节定于今年7月25日至26日在北京举行,主题为“向新而行,新质生产力激发新活力”。

作为中国经济领域最具影响力的思想盛会,CFS第十三届财经峰会将汇聚国内外颇具远见的商业领袖、经济学界翘楚、创业家及新青年代表,讲述中国故事,共享中国机遇,共促复苏增长。


姜全.jpg

以下是开普云战略投资部总经理 姜全在2024CFS第十三届财经峰会的精彩演讲,由云现场整理。


大家下午好,开普云是一家行业信息化软件公司,成立于2000年,2020年在科创板上市,经过20多年行业信息化发展,开普云已经覆盖了大概60%以上的中职机关和国务院组成部分,80%以上的省级政府和60%以上的市级政府。

2022年年底以来,大模型浪潮发展,开普云从行业信息化企业逐步转型升级到以大模型为驱动提供行业智能化解决方案的厂商,我们在实际落地过程中,从业务一线看到比较普遍的问题,第一个问题源自于实际需求如何用大模型来解决,我们接触到政企客户过程中,第一个问题大模型是什么,大模型能做什么,最终实现业务落地往往收敛到一个问题,大模型能够在客户实际场景中为客户解决什么样业务真实的难题。

第二个,在政企业务应用场景中凝聚了大量的行业知识,这个过程在通用一般预训练大模型很难解决这个问题,训练过程中需要专家介入和大量行业知识输入的过程。

政企客户在现阶段目前IT基础能力往往没有办法将现有的算力硬件和大模型应用软件进行独立的部署和运维,这个部分的工作也要交给大模型应用厂商来进行。

第四个在多模态内容生态过程中,如何实现稳定一致性输入和可控可信的生产,尤其是在政企关键场景过程中是尤为重要的基础保障能力。

第五个在客户个性化应用过程中,我们在不同政府部门,不同国有企业,大型央企集团中我们看到它的业务场景具备相当强的独立性和个性化,最后一个关键业务场景投入到生产环境当中,新的技术带来非常新的数据内容,安全风险挑战。

结合我们遇到的问题,开普云在实践过程中认为有几个重要的能力需要具备才能真正意义推动大模型应用的具体落地。

第一个行业数据资产缺少足够多的行业数据资产,是没有办法将一般意义用大模型推进到行业大模型甚至客户专属大模型来提供真实的落地。

第二个在算力供应链方面,我们大部分客户往往自己不具备采购算力或者是辨别什么样算力是好的,什么样的算力能用的能力,也需要应用厂商需要贯穿式的业务提供。

大模型差异化,我们可以看到在大量实际应用过程中不同大模型通过不同训练的方式和手段,需要进行差异化能力的培养。

第四个软件硬件工程化能力,实现一体化交互能力的保障。

第五个在政企应用场景中,不同数据保密级别,不通信系安全分级的机制下,我们如何在大模型应用场景中实现不同密集的保障。

我们还是要深入理解客户,包括我们跟客户过往合作基础之上,让我们与客户共同一起探讨在哪些场景当中能够帮助客户来运用大模型。

最后我们站在客户一侧,真正良好实际应用案例中,我们需要帮助客户建设三个方面的基础能力。

第一个数据能力,在大模型应用过程中,客户行业知识,客户专有化的企业数据往往需要经过一系列的处理才能够为大模型所用,无论是采用增量训练方式还是通过知识图谱、向量数据库方式进行外部挂载,通过开放应用厂商整体数据中台能力赋能客户整体的数据能力。

第二个帮助客户建立使用大数据的使用团队。

最后一个帮助客户建立整体大模型持续自动化运维包括增量训练的平台能力,能够实现客户行业大模型或者私有大模型在使用过程中越来越贴近实际场景和实际应用效果管理。

开普云在落地实践过程中,通过两年左右的时间,从底层算力包括AI一体机交互,到智算中心建设,包括自动化大模型运维和管理、增量训练大模型管理系统到行业大模型,直到支撑快速敏捷构建政企智能应用的中台系统,通过这三层基础建设,支撑多个由大模型驱动的智慧应用产品形成一系列的行业解决方案,服务于我们目前多个客户,这是我们在大模型智慧应用过程中持续不断拓展自己的能力边界,探索大模型应用实践的。