我的学习笔记

土猛的员外

聊聊AI应用创业心得,我们在路上|大模型应用落地场景|RAG|SaaS|PaaS|GTM|TorchV

本文非AI技术文章,而是讲述我们在AI应用创业过程中的一些心得。网上常说技术创业者往往缺的不是技术,而是对市场需求的感知,以及如何做到PMF。我们离PMF还有距离,但是已经在路上,所以分享一些自己的AI创业心得,希望得到您共鸣和反馈。

为客户感到开心

昨天最开心的一件事情是我们的一个客户(后面简称“ZY”)的AI应用上线了,ZY使用的是TorchV的AI PaaS服务,而且他们切入的市场需求真的非常棒!鉴于他们做的是专属社群的生意,不太愿意在互联网过多曝光,所以我只说一些大概内容,会略去一些敏感信息。

首先他们的服务对象是在读的重点大学本科生与各类研究生,为学生提供收费的知识服务,对于他们商业模式我就不再过多透露了,但我们内部也评价了一下,确实很有卖点,而且他们具备一些独特优势。

下面我把重点放在讲述ZY与我们TorchV相关的内容上。

我们是去年11月29日才正式创业的,虽然经过近一个月的前期产品开发,我们在12月底就正式开单了,但更多是因为我的人脉资源。后面我通过在公众号、Blog、X和知乎等平台发布自己关于RAG的文章[1],获得了不少人的关注,其中就包括ZY。ZY是带着自己明确的需求找到我们的,并且在试用了TorchV的PaaS服务之后,在春节前就订阅了我们的专业版年服务(36000元)。到此,ZY应该算是我们的第一个完全PLG的付费客户,通过我对TorchV价值宣传的文章找到我们,经过试用,以及后面不断的磨合,最终成为正式客户。所以昨天他们的应用正式上线,对我们也有非常的意义。

在和他们磨合的过程中,我们也在探明了很多服务的边界,包括各类服务细项的用量和收费标准等,这里可以透露一点数据:

  • 知识库上传容量超过2GB:ZY的知识库整理的非常好,这是他们的优势。文件数量过千,类型包括网页(论文和他们自己的知识整理)、Word文档、PDF和Markdown等;
  • 知识库数量超过50个:为了更好地梳理知识类型,ZY创建了很多知识库,将各种知识进行分类,方便不同需求的客户更精准地获取知识。

相较于我们其他的付费客户,ZY的应用也算是给我们进行了一次极限测试,让我们在处理单一客户的海量文件的时更有信心

TorchV提供了什么?

也许上面的描述只是管中窥豹,下面讲讲TorchV在AI在企业应用落地过程中提供了什么,先抛答案:我们提供的是一整套快速帮助企业使用大语言模型(LLM)的PaaS系统,从底层往上分别是:

  • RAG和AgentRAG(检索增强生成)[2]和Agent是目前大语言模型落地到企业应用的事实标准;
  • Tenant:租户系统,这是我们支起多租户PaaS/SaaS平台的基础;
  • OSS:在线文件存储,包括客户上传的文件,以及从URL中导入的数据等;
  • ChatBot:TorchV会提供一个默认的Web版问答系统,客户可以在上面对知识进行测试,对于内部使用场景,也可以直接使用;
  • 数据&洞察分析:对数据进行分析,包括客户预先设定的一些洞察条件,一旦触发条件,就会进行指定动作,如产品和服务的推荐,咨询分流等。客户在这里也可以对数据进行同步,导入到自己的系统,作为数据分析的数据基础;
  • 知识库管理:创建知识库,为每个知识库上传和导入文件,一旦上传,文件立即被系统处理,变成chunk(小块文本)和embedding之后的向量数据等;
  • 运营后台:包括计费系统、各类参数配置、对话记录查看和标注、用户权限设置和反馈处理等功能;
  • 应用中心:一个客户即可创建多个应用,然后通过API对接自己的原有系统,或者根据API创建新应用;
  • API&一键嵌入:除了API之外,我们还提供一键嵌入的对接方式,只需引入几行js代码,即可在客户的Web应用上开启悬浮icon,提供TorchV的对话能力。

torchv-support

图1:TorchV给客户提供的功能和价值

当然,我们对大语言模型(LLM)的连接也做了中间件,采用多个模型,客户在实际使用中可以指定模型或者使用智能分配。内置的大模型包括:

  • glm-3-turbo (智谱)
  • glm-4 (智谱)
  • Baichuan2-Turbo (百川)
  • Baichuan2-Turbo-192k (百川)
  • qwen-72b-chat (通义千问)
  • qwen1.5-72b-chat (通义千问)
  • moonshot-v1-32k (月之暗面)
  • moonshot-v1-128k (月之暗面)
  • yi-34b-chat-200k (零一万物)

刨除半个月的春节放假,三个月时间确实也做了很多事情,也收获了一些付费客户和70多家试用企业。也正是和客户频繁深入沟通,我们发现目前的进度仅仅只是开始,还有很多优化工作和全新的需求已经排在迭代计划中了。

GTM和产品路线

本来想说GTM和产品开发战略的,但是我们这么小,哪来什么战略啊。

分享这一章节,是因为感觉到GTM和产品路线协调太重要了,直接关系到我们创业是为了创造什么价值。

SLG暴露的问题

GTM(Go-To-Market)Strategy就是触达市场的战略,在我的认知中最常见的就是SLG(销售驱动增长)和PLG(产品驱动增长)。我们一直向往的是PLG,自下而上影响客户的购买决策,而且更能真正让客户使用起来。而SLG则是我们之前几年一直在实战的方式,从“钱”出发,哪些客户有钱,找到他们,了解需求做解决方案,然后把产品和部分定制化一起卖给他们。但是之前几年的SLG存在的问题也非常严重,比如为了完成业绩,会出一些“非常手段”,然后客户的决策人和真正的用户往往不是同一批人,就造成了很多SLG方式卖出去的产品没有真正被使用起来。对于公司来说,这会影响到客户复购,对于产研人员来说,价值感极低。加上大量定制,根本没有动力和精力把产品从60分做到100分,最终对于客户的使用价值、公司的产品竞争力,以及产研人员的信心都是损失。也许SLG本身没有问题,但在国内很多企业实际的GTM过程中,上述问题是大量存在的,这里且还不展开说严重的商务费用问题。

所以这次我们自己创业,那就优先选择了PLG的方式。虽然说听起来有些任性,实际上却也是根据我们自身情况做出的最实际选择。下面说说我自己的一些感受,为什么就今年来说,PLG在AI应用落地上比SLG更有效。

新事物需要新方法

AI虽然已经不是新鲜事了,但是听博客、看文章,我们粗略统计在国内应该至少还有13亿人不知道GPT到底是什么,所以大面积去做SLG很难。基于以往的工作积累,我手上是有一些销售渠道资源的,去年底我们出来创业开始,渠道方面的销售就在帮我做推广。但是他们的客户关系网也是建立在以前的集成业务和标准产品的基础之上,现在直接拿着AI应用去推广,存在市场教育问题、落地场景问题。渠道商普遍觉得很难推,他们自己和他们的客户在对AI认知上都还存在gap,AI应用市场的建立还需要一段时间,包括知道GPT是什么的企业,对于幻觉问题的存在也依然会抱有警惕心理。

去年9月、10月写了几篇文章,阅读量5000到12000不等,我也都发了朋友圈,但是这几篇文章的好友阅读量都没超过20。这说明我原来的微信好友里面大部分人其实还没有真正关心大模型和它的价值,如果拿AI应用产品在原来建立的销售网络中去找客户,无异于缘木求鱼。

但是除了20多个好友之外,还有这么多新朋友在阅读,他们里面会不会就有很多对大模型应用这种新技术新产品有需求的人呢?

通过阐述价值寻找客户

为了验证这个想法,我们在2024年1月26日傍晚上线了TorchV Bot试用系统,也开始在公众号文章、X和知乎上阐述我们产品的理念,而不是纯技术文章,同时在文章上邀请大家试用。在1月26日晚上就收到了十多家企业的试用申请,团队倍感惊喜。然后马上就是春节,直到过了正月十五,我们和市场的状态才真正开始回来。到了3月初,我们给100多家企业开了试用账号,和其中70多家进行了需求沟通。把很多共性的需求进行了归纳。当然,这些试用客户里面,有些已经付费开启正式版,还有一些客户给出了很直接的需求——你们把XXX完善了,我就马上给你们付款。因此,五个显著应用场景TorchV PaaS优化的需求列入我们产品持续迭代的计划中。

demo

图2:TorchV Bot试用平台

醋和酒

通过内容推广和试用,我们好像验证了想法:对于AI应用的需求是大量存在的,只是通过PLG或PM(产品营销)去吸引有需求客户在效率上要明显高于传统SLG的主动出击。我们其实也有进行过SLG,但是在找到的客户没有主观需求的情况下,他们的需求往往存在“临时起意”。比如我们是酿醋的企业,目标是酿造真正上好的醋,但我们主动找的客户的回复往往是:“醋是好醋,但是如果你们还能再酿一些酒,那我就一起买了”。但是目前我们团队人员优先,目前在产品研发迭代上只能保持单线程运转,不可能应对需求无限蔓延。

而因为PLG主动找到我们的客户往往是有明确需求的,说的夸张一点就是他们已经万事俱备,就欠我们这股东风了。于是在合作上就显得非常自然,而我们也可以聚焦在产品的优化上。在AI应用(如RAG、Agent)行业摸打滚爬过的朋友都知道,从开源应用到真正企业级应用是要脱好几层皮才能进化出来的。真正的企业应用需要很多优化,除了需要满足客户精准、稳定的要求,还需要满足很多特性,比如:

  • 开箱即用:满足客户快速搭建知识库,无需自己去解决二十多个技术环节;
  • 快速接入:满足客户快速接入AI能力的需求,提供具备良好文档的API,以及一键嵌入等能力;
  • 数据和洞察:对于对客服务类客户,他们希望在服务他们客户的同时还能洞察其中的商机,给客户实时推荐产品和服务,或者将商机特征明显的咨询自动分流(给专家或销售代表);
  • 超大资源容量和访问权限:就像客户ZY实际在使用的一样,我们需要支持超大容量的知识库,真正企业级场景不是针对几个文件的问题。而且我们的另外一个客户在公司内部使用,有问答访问权限的需求,比如公司的合同文件,不是所有员工都能问答的;
  • 一账号多应用:依赖同一组知识库,客户可能会对接或开发多个应用,需要具备多应用的处理能力,以及每个应用的专属配置;
  • 更多形态:企业应用不仅限于对话形式,还有一些更复杂的业务,比如合同预审,需要对合同存在的问题输出一个报表(我们正在和一个合作伙伴共创)。

torchv6

图3:TorchV的6个企业客户关心的特性

我们的价值和使命是什么?

创业真的不是一件容易的事情,哪怕短短三个多月,我们也有过几次自我怀疑,如同深夜里,在漆黑的森林找出路,走着走着很难不怀疑这个方向是不是对的。我们马上调整回来,因为大家都有坚定的价值观 — 创造真正有价值的产品。另外,在漆黑的森林里面徒步,要走出去,我们就需要设定一个目标——找到前方远处的灯光,让朝着这个方向前进。

我们认为这盏灯也是使命就是挖掘企业非结构化数据的价值。过去二十年在结构化数据(关系型数据库、键值对等)的应用上已经发展到很高的层度了,但是企业里面占比更大的是非结构化数据,而且企业每天都会被这些非机构化数据如何利用而烦恼(可以阅读《挖掘非结构化数据的价值(一)》[3])。所以我们的使命是要去解决客户的这些需求。过程中的技术(包括RAG、Agent,以及其他的AI技术)都是我们走向这盏灯的工作。

图4:挖掘非结构化数据的价值

结论

坚持价值观做事情是很孤独的,这也是为什么昨天看到ZY上线我们会如此兴奋,因为他们这样的一群人,在做一件很有意义的事情。

以上算是我自己三个半月的创业感受和心得分享,希望可以得到一些朋友共鸣,如果能对一些朋友有帮助那就再好不过了。

对了,TorchV Bot目前仍然在开放试用,如果您的企业刚好有AI应用落地的需求,可以找我(微信:lxdhdgss)开通试用账号。

引用

1.我的各发布渠道——公众号:土猛的员外,Blog:https://www.luxiangdong.com,X:@Tumeng05;知乎:https://www.zhihu.com/people/lu-xiang-dong-23

2.RAG的文章——https://www.luxiangdong.com/2024/01/25/lanuch-1/

3.挖掘非结构化数据的价值——https://www.luxiangdong.com/2024/03/05/wanjue1/


我们的创业项目已经上线!!!

TorchV AI,帮助企业快速进入AI时代!

具体详情,请点击官网咨询


最新内容,关注“土猛的员外”公众号