交银施罗德基金,名禹资产,中金公司,民生证券

9月26日,上海岩芯数智人工智能科技有限公司(以下简称“岩芯数智”或“RockAI”)“真端侧·智无界”开放日活动在上海举行,正式推出了全新升级的Yan1.3群体智能单元大模型,并展示了其在无人机、机器人、PC、手机等各类终端设备上的能力。

一、CEO刘凡平介绍整体情况

1、Yan架构大模型定位

群体智能是构建未来智能的关键,也是人机共融共生的基础。希望构建的是一个由无数智能单元交织而成的世界——每一个机器、每一台设备都不仅仅是独立存在的点,而是群体智能网络中不可或缺的一环,而Yan架构大模型则是部署到这些智能单元中的群体智能单元大模型。

2、机器群体智能的定义

具备自主学习的若干智能单元,通过环境感知、自我组织、互动协作共同解决复杂问题,并在不断变化的环境中实现整体智能提升。

3、人工智能的群体智能意义

群体智能是通往更广泛通用人工智能的关键路径。RockAI以Yan架构打造群体智能单元大模型,不单是为了提升某个设备的能力,更是为机器注入一种新的、本质性的智能基因,使其拥有超强的环境适应力和自主学习能力。届时,每个部署了Yan架构大模型的设备都将成为一个智能单元,通过它们的不断协同、交互,最终激发群体智能的涌现。

4、RockAI实现群体智能的四个阶段

第一阶段:创新性基础架构。RockAI未采用传统的Transformer架构,自主研发了Yan架构大模型。目前成果显示,Yan架构在性能上实现了显著效果,为人工智能的进化开辟了一条新的道路。

第二阶段:多元化硬件生态。RockAI构建了跨平台、低功耗且兼容多模态数据处理能力的群体智能单元大模型。不仅意味着将单元大模型灵活部署于更广泛的终端设备中,而且兼容各类硬件平台的运行,为未来智能化奠定坚实基础。

第三阶段:自适应智能进化。Yan架构大模型让每个群体智能单元都拥有自主学习的能力,通过自主学习机制,构建一个持续进化的智慧生态体系,使群体智能单元大模型不仅能够适应环境变化,更能主动优化自我,实现自我迭代。

第四阶段:协同化群体智能。群体智能单元之间将拥有类似人类沟通的机制,实现高效的信息交换与协作。在这个生态系统中,每个单元既是独立个体又是整体的一部分,共同推动着群体智能的繁荣。

RockAI目前已经处于四个阶段中的第二个阶段,即多元化硬件生态阶段。

5、Yan1.3群体智能单元大模型

Yan架构大模型已进化至Yan1.3,由Yan1.0的仅专注于自然语言的大模型进化为多模态的群体智能单元大模型。

Yan1.3具备多模态的端到端能力。此外,Yan1.3以其卓越的性能和广泛的适应性,是能够运行于从教育机器人、智能手机到无人机乃至具身机器人的设备之上的多模态大模型,还可将能力覆盖范围进一步拓展到树莓派这样的微小计算板上。

Yan1.3凭借其优异的架构设计,将模型兼容性与性能表现提升至新的高度,从而在低算力到高算力设备之间实现了跨越。这也体现出RockAI的愿景:让世界上每一台设备拥有自己的智能。

Yan1.3目前已经实现了跨平台、多设备的秒级实时人机交互,在响应速度上实现了质的飞跃。

6、RockAI的未来发展方向/路线

RockAI致力于打造群体智能,希望通过探索大模型在智能单元的训推同步,让模型具备自主学习能力,在实现模型自我进化、个性化的基础上,促进人与机器、不同智能体间的深度协作,加速群体智能的涌现,最终构建人机共生的全新智能时代。

7、群体智能单元大模型的三大核心能力

理解表达:深度理解用户需求和环境变化,并能够精准地生成内容,实现与用户的无缝沟通。

选择遗忘:动态更新记忆,选择性地遗忘不重要或过时的信息,为新知识腾出空间。

自主学习:在没有外部干预的情况下,根据环境变化和学习进展自主调整和进化。训推同步作为实现自主学习的重要技术手段,确保每个个体在执行任务时能即时反馈结果,促进知识的快速迭代与共享。

8、RockAI的基础架构创新和基础理论创新

(1)Yan架构大模型创新之MCSD

Yan架构采用MCSD(Multi-Channel Slope and Decay)替换Transformer架构中O(n^2)的Attention机制,并成功验证了ScalingLaw机制。MSCD方法摒弃了传统的注意力机制,通过“多通道斜率”与“多通道衰减”的结合,提供了一种全新的视角去理解复杂的数据结构,减少了模型计算量,不仅提升了模型的响应速度,还降低了能耗和资源占用情况。

(2)Yan架构大模型创新之类脑激活机制

类脑激活机制,既可以应用在单模态也可以应用在多模态上,在最初会初始化若干神经元参数,每个数据样本在训练或推理的时候,都会通过仿生神经元的选择驱动算法,选择与本数据样本相关的神经元参与运算,这意味着每次的迭代训练和推理,并不是每一个参数都会参与计算,尤其在训练时,这种方法会极大的降低算力。
二、CMO邹佳思介绍Yan1.3群体智能单元大模型赋能手机、PC电脑、机器人、无人机

1、设备端运行智能单元大模型的挑战

由于物理存储空间和运行内存的限制,设备端模型不能像云端一样是一个千亿或者万亿级参数的模型。在RockAI内存优化策略下,Yan1.3内存消耗远低于主流的大模型。

算力方面,RockAI创新的非Attention机制以及类脑局部激活机制,让Yan1.3大模型能够在更低的算力设备上部署。

软硬件方面,RockAI完全自研的非Transformer架构,从生态底层的CPU、NPU芯片到上层的音视频外设,正在和上下游一起不断完善工具链优化Yan架构的通用适配能力。

硬件结构方面,对于设备端来说,电池的续航、功耗发热对模型提出了更高要求,Yan架构可覆盖低算力设备,意味着存量市场的硬件可实现算力复用,在设备端更快落地。

2、Yan架构大模型的适配情况

Yan架构大模型的目标是全模态、实时、人机交互。目前Yan1.3大模型从芯片、模组、整机三个层面在进行适配合作,芯片和模组层面的适配能降低整体技术成本,目前在英伟达、联发科、英特尔、瑞芯微等平台上都已适配,而整机层面的适配能让RockAI更理解业务场景。3、部署Yan架构多模态大模型的手机具备问答能力、Agent能力、以文找图、以图生文的能力

现场展示了Yan架构30亿参数多模态大模型在配备高通骁龙8二代及联发科天玑8100的两部手机在飞行模式下的语音对话、系统调用、图片查找和图片描述的功能。

通过针对ARM架构做模型优化,Yan架构大模型可以直接运行在CPU上。对于一些更高端的带NPU的手机,Yan架构大模型可以不用完全跑在CPU上,这样可以不抢占手机系统和应用的CPU,会有更好的用户体验。

Yan1.3群体智能单元大模型可以在设备端部署,对于手机的配置需求更低,能覆盖的面也更广。

4、PC端支持音频转录、会议总结、以文找图、以图找图等功能适配英特尔酷睿i5-1340P的一款PC盒子,在离线部署Yan1.3大模型后,可以支持音频转录、会议总结、以文找图、以图找图等功能。语音实时转写还可以快速提炼转写内容并生成摘要,适用多样化场景。RockAI希望Yan架构大模型能覆盖更多PC主机并解决隐私信赖问题。

5、PC电脑端-智能单元大模型的亮点

(1)“真隐私”,本地部署能够更好的保护用户隐私,让用户放心的使用。

(2)“真极致”,即使是“五环外”设备,也能够支持适配。

6、机器人实现语音问答多模态交互等功能

基于英特尔酷睿i3的机器人部署了Yan1.3大模型,在感知上实现以视觉、语音为主要输入,并通过大模型进行语义理解从而实现语音交互和控制肢体行动。这款机器人可在离线的情况下准确理解模糊指令,并由Yan1.3大模型控制躯体高效完成各类复杂任务,诸如“四步成诗”等。

在联网状态下,这款机器人可以更准确地回答实时资讯。

图:部署了Yan1.3大模型机器人

7、无人机可实现场景巡检、智能摄影等功能

RockAI通过在无人机上外挂算力来部署大模型,采用的是JetsonOrinNX、8G显存的边缘GPU,能实现复杂的多模态功能,可以支持多方位智能巡检、快速识别图像信息、自适应调整飞行高度,在交通巡检、安全监控中,可以自动提取有效信息,分析判断识别后将数据回传系统。

智能拍摄功能方面,无人机通过Yan架构多模态大模型对人物进行跟踪,然后选择不同的角度进行拍摄,并通过模型自主选择最佳照片。

在信息回传方面,将Yan架构大模型部署到无人机后,设备可自行判断信息是否值得回传或自行处理,降低通信成本。

8、无人机-智能单元大模型的亮点

(1)“真落地”,无论是断网的情况,还是需要联网的情况,群体智能单元大模型都能很好的支持。

(2)“真无损”,在设备端的Yan架构大模型,可以达到百毫秒级的实时处理。

对于无人机,无论是机载高算力,还是低算力,无论是工业级,还是迷你消费级,Yan架构大模型都能赋能无人机让其变成真正的“智能单元”。

9、RockAI计划于今年11月在官网(www.rockai.net)上开放SDK下载,并欢迎广大开发者来交流。

三、岩芯数智董事长陈代千:构建基于群体智能单元大模型的“Yan生态”

大模型本质上是底层计算,所有的模型最终导向的仍然是用户,所有用户都是通过各种应用来使用模型,而所有的应用都是通过一个个智能单元来实现的。未来的人类所能掌控的物理世界会因为AI而发生根本改变,每一次交互都不会离开物理世界和大模型的结合。

Yan1.3是群体智能单元大模型。每一只手机、每一台PC、平板、每一架无人机、每一个消费电子终端、甚至每一辆智能汽车、每一个机器人,都是一个独立的智能单元。RockAI推出的群体智能单元大模型不是孤立的技术,未来,它不仅可以覆盖更广泛的设备,赋予每一台设备更高效的智能,更重要的是:从具身智能的角度来看,实现让每一个智能单元都能达到真正自我学习、自我训练和自我进化,能够完成跨模态和多领域的复杂任务,不仅和人类以及真实物理世界有着良好的个性化交互,各智能单元之间也可以相互交互、相互学习、相互配合、相互协同,从而形成不同规模、不同种类上的智能单元簇以及由此而产生的群体智能生态。

岩山科技作为RockAI的母公司,正是源于对群体智能单元大模型未来前景的坚定信念,将其定位为上市公司在战略层面的重要增长极。我们要让每一台设备都拥有自己的智能,也将在这个过程中发力构建基于群体智能单元大模型的“Yan生态”,对面向Yan架构大模型的开发者、创业者和合作伙伴,我们的团队都将在技术上给予充分的支持。

您好，岩芯数智是一家人工智能公司，其推出的Yan1.3群体智能单元大模型已经实现了在手机、电脑、无人机、机器人等端侧硬件上的离线部署。该模型具备多模态能力，可高效处理语音、图像等多种数据类型。岩芯数智CEO刘凡平坦言“Yan模型”自今年发布以来，收到的评论是“两极分化”的。该公司设立了1亿元的Yan基金用于开展Yan生态合作，并透露其已与多家上下游运营商和厂商洽谈端侧人工智能(AI)项目。