演讲实录:指标平台+AI 的技术落地和未来展望( 二 )


SaaS 版本是最容易体验到Zen 新一代数据分析能力的途径,欢迎大家在文末申请Zen 的试用 。
对于企业而言,数据安全是无价的,以金融行业为代表,很多企业也希望有本地部署的方案 。我们先来聊聊数据怎么能够不离开企业的本地环境?在真实场景中,最简单的思路就是把大语言模型移到企业的私有域来,但事实上在现阶段落地的时候可能会遇到一个问题: 代表了行业的最高水平,如果我们在落地时用了一个替代的模型,它的能力会不会比弱一些?
这种情况确实可能发生,那么在弱一些的前提下,我们怎么能够保证语言理解能力、可靠的性能呢?我们可以把的这个行动拆解成为几个语言行为,其实每一个局部的语言行为上我们可能不需要那么强大和完善的通用语言能力 。
那也就是说,当我们把范围缩小,就可以适当降低对通用模型的要求 。举个具体的例子,执行一个指令的时候,其实分三步:
【演讲实录:指标平台+AI 的技术落地和未来展望】在实际落地中,企业既可以用三个局部的小模型来代替一个通用的大模型,这使得现阶段落地成为一个比较可靠、可行的方案;当然如果企业有一个大模型能够完成这三个任务的话也是可以的 。以上就是指标平台 + AI 在本地部署比较可行的方案 。
大家看到的能力是相当不错的,那其他大模型在理解力、性能这方面的表现如何?我们也帮大家做了一些测试和调研,我们用开源的大语言模型代替进行了一些初步的尝试,比如 LLaMA 13B 和40B 在测试指令理解能力这个方面大概可以达到3.5 的 70% 左右的能力,这可以理解为目前企业希望在本地落地大语言模型指标的最低能力范围 。
国内有很多大语言模型的供应商,经过我们的初步调研,目前大语言模型的接口还是比较统一和通用的 。如果企业自有或者采购了大模型,也是快速进行合作和对接的 。如果您希望在您的企业落地刚刚看到的能力,我们欢迎大家来与我们的前线人员进行交流,可以和大家一起共创 。
Luke 刚刚提到了as a ,这是第三种可落地的方案 。我们可以把的自然语言能力,快速嵌入到企业自己开发的系统中 。是以指标平台为核心,周围布局了一些指标能力,这些能力都以开放 API 组件化的方式来设计和提供,可以变成企业应用的一部分直接服务客户,同时也可以嵌入到我们合作伙伴的行业解决方案、大企业内部的企业数据平台里面等 。
我们将大家看到Zen 的归因分析、、目标看板等能力称之为开放的数据产品 。从技术角度看,我们有类 YAML 的开放式指标定义语言 ZenML;同时我们有开放式 API,Web 小组件、 as a() 都是可嵌入式的控件 。
只需要十行代码,就能够把这样的能力嵌入到企业现有的应用中 。这些操作指南大家可以在Zen 的使用手册上看到,这也适用于各种 SaaS 应用、行业私有化的解决方案和企业内部的数据系统 。
关键技术的未来展望
分享了主要的部署方案,我沿着刚刚的指标体系、 和成本合理的 OLAP 引擎来进一步展望下我们对这几个关键技术和方向的看法 。
先说指标体系,我觉得很有意思的一点是在我们的实践当中我们慢慢发现,当每一个人都可以使用这个数据的时候,数据的治理变成一个更难的问题 。我们说有序和创新其实是一对矛盾 。最严格的数据治理就是严格管控的,整个企业范围里面都标准化的指标体系,它有好处就是管理严格,但是也会扼杀创新 。
很多企业都希望能够找到一些可参考、可复制的指标体系,快速复制一个已经被验证过的成功,这是有序的部分 。有了基础,紧接着第二步就是创新,企业有自己业务的特色,基于行业的通用指标体系以外还希望有所创新 。如何在有序和创新中找到平衡点,我们发现指标体系是一个很不错的工具 。Zen 是一个低代码的指标平台,能够帮助大家在通用的指标体系之上,快速沉淀基于业务创新的指标体系,实现快速的复制与推广,抬升行业数智管理的基线 。