百花齐放般的大模型深刻展示着人工智能技术的魅力。南都·琶洲π特别策划“琶洲模术秀”系列人物专访,专访位于广州海珠琶洲的国内首个人工智能大模型应用示范区的大模型专家,揭秘大模型背后的技术原理,走进人工智能技术的最新应用场景。
在教研领域,长期存在“人手不足”的情况,一位教研员需要面对百倍之多的教师,以至于无法及时提供足够的建议,以提升教学效果。位于广州海珠的广州云蝶科技有限公司(下称“云蝶科技”)自研了行知大模型,专为解决这一具体问题。
在一般的大模型能力基础之上,云蝶科技将其打造成了一款“低成本、高可信、易复制”的大模型产品。这其中蕴藏着云蝶科技的技术创新成果和对AI未来发展的思考。
日前,云蝶科技CTO陈天接受南都·琶洲π专访。他长期从事教育的信息化、数字化、智慧化工作。在AI进入到大模型发展阶段,他从北京南下广州,在海珠琶洲开启了创业新征程。
11年兜兜转转再回到广州
智慧教育专家在琶洲迎接AI风口
陈天与广州这座城市,或有注定的缘分。2008年,在华南理工大学软件学院执教的他,离开广州北上北京,被借调到教育部从事教育信息化相关的工作。2019年,他兜兜转转地又回到了广州。
这一次,站在AI的风口上,他要将AI技术和教育融合起来。2018年,田雪松(现云蝶科技创始人、CEO)找到他。两人在一家咖啡馆里谈起了AI+教育的创业计划。“没有特别的犹豫,当下就做了决定。”陈天回忆道,这就是他最擅长的事情。两人一拍即合,决定在广州“开干”。
AI和教育这两件事对于陈天来说,是再熟悉不过的了。陈天的工作经历基本围绕教育展开,横跨了教育信息化、数字化和智慧化多个阶段。不习惯偏行政的工作,陈天结束借调工作后,就职奥鹏教育,主导了大学网络教学资源的建设。
此后,他还去到了北京师范大学的未来教育高精尖创新中心。这时是2013年,视觉AI已经出现,陈天所做的就是AI+教育。这些前沿的课题让陈天能够更早地意识到行业的变化,甚至在引领着变化。关于教育行业的痛点和需求,关于IT技术的创新和运用,陈天熟悉且掌握。
云蝶科技之所以在广州“出生”,既与这座城市的创新氛围有关,也与投资人位于广州等个体原因有关。后来,陈天等创始人形容此为“五个博士到广州创业”。海珠区的政府官员对云蝶科技的到来表示欢迎,帮助其寻找办公场地。云蝶科技的创始人们在这过程中感受到了“被重视”,也坚定了他们扎根海珠的信心决心。
2019年2月,云蝶科技正式注册。最早的时候,云蝶科技在腾讯众创空间用共享办公室,后来随着业务的开展搬到了5A写字楼保利中悦广场,总面积达1300多平方米。后来,云蝶科技陆续“招兵买马”,逐渐壮大,办公室搬至现在的华新创新岛,业务早已遍布全国,成为“国家高新技术企业”“广东省专精特新中小企业”“广州市未来独角兽创新企业”。
低成本、高可信、易复制
行知大模型始于教研,行至千行百业
云蝶科技的创业从教研这一领域切入,瞄准的是教研员严重不足的行业痛点。“1位教研员需要面对300位教师,导致有的老师一个学期都无法获得来自教研员的教学提升建议。”陈天介绍道,行知大模型就像一个“超级大脑”,通过云蝶科技自研的智慧硬件设备所收集的课堂数据,实时迅速地开展教学质量分析,给出提升建议。目前,行知大模型已在省内多所学校部署,其效果通过名校升学率数据的提高得到了有效验证。
陈天介绍,行知大模型具备低成本、高可信和易复制的特点。这体现出了一家科技公司对技术创新的追求,以及对市场需求的应对之策。
“无论是大模型的私有化训练,还是本地部署,普遍使用成本偏高。”为了降低用户使用成本,云蝶科技首创了“KTD”(Knowledge-Joint Tuning-Distillation)架构,首先从大量行业数据中清洗筛选形成行业知识库,然后与通用大模型进行联合微调,最后进行知识蒸馏,形成垂类小模型。“对于大多数场景来说,云蝶科技的‘小模型’,无论是做推理还是调试,成本都大幅下降。后来发现,这和Deepseek的思路非常相似”陈天说道。
教育是一个相对较严肃的行业,对AI的幻觉接受度较低。为了降低幻觉率,云蝶科技将大模型技术与知识图谱结合起来。“大模型之所以会出现幻觉,本质原因是其是一个概率模型。它按概率计算下一个token应该输出什么,所以一定存在幻觉。”陈天解释道,但是加入知识图谱后,AI的生成结果会严格遵循知识图谱中的关系,而且对于知识库的查询也会更加精准。陈天告诉记者,这和后来微软所推出的GraphRAG方案都是类似逻辑,都实现了幻觉率的降低。
这些方法在不同行业的应用,让行知大模型具备了易复制的特点,越来越多严肃的行业能够放心地使用生成式AI,例如政务、医疗等。基于这些行业的共性,云蝶科技打造了AI中台,用户可以根据自己的具体场景需要,微调模型,做本地化的知识库,编排个性化的智能体。AI中台这就像一所学校,授人以渔,让AI不再只能是IT专业人员来做,相反业务人员更懂需求,可以把AI应用得更好。
现在,云蝶科技不再是一个仅服务于教研场景需求的AI公司,也具备了赋能千行百业的能力。实际上,云蝶科技的AI产品已经在教育之外的政务、农业、建工、医疗等领域得到了运用。
谈琶洲
如果将大模型产业比作农田,那么琶洲拥有使农田茁壮成长的养分(数据和应用场景)、阳光(产业政策)和水分(人才)。
南都广州新闻部出品
采写:南都·琶洲π记者 代国辉
图片:受访者供图
旺源配资-旺源配资官网-配资股票网-股票查询网提示:文章来自网络,不代表本站观点。