直击WAIC2023|行业首份《生成式AI》报告:2024年中国将出现比肩GPT-4的多语言通用大模型

2023-07-07 16:51:10 来源:科创板日报

《科创板日报》7月7日(记者 陈美)如果说2022年被称为生成式人工智能之年,2023年则把大模型推向高峰。

7月7日,在2023世界人工智能大会(WAIC)启明创投论坛“生成式AI与大模型:变革与创新”上,启明创投携手未尽研究,共同发布《生成式AI》。据悉,这是首份基于对海内外逾百家企业深入调研撰写的生成式AI洞察报告。

《科创板日报》记者从现场获悉,启明创投合伙人周志峰作为发布人,从创新应用、前沿研究、监管、安全、政策、人才以及行业十大前瞻等多个方面,对报告进行了解读。


(相关资料图)

在解读中,周志峰表示,算力目前是最稀缺的资源,也处于最容易获利的要津。算力作为大模型成本结构中最大一块,GPU的性能,实际上决定了这个新兴行业的步调。

“随着算力与模型的进步,更多初创企业正在涌入,它们抢到了时间的红利,但也面临竞争和可能的巨头碾压。”周志峰解读《生成式AI》时谈到。

与2022年相比,《生成式AI》认为,2023年更多比例的新公司聚焦在底层技术的创新;大模型创业公司也开始分化,在通用大模型创业公司方兴未艾的同时,许多面向医疗、电商、科研、工业、自动驾驶和机器人等特定方向的垂直大模型公司,开始出现。

但在此过程中,《生成式AI》认为,大模型既需要超越对下一个词的预测能力,也需要一个更丰富、更复杂的“慢思考”深层机制,来监督“快思考”预测下一个词的机制。

周志峰在讲解《生成式AI》时表示,政府对于生成式人工智能的监管反应相当及时,各国出现了不同特点。中国在迅速推出生成式人工智能的监管办法并征求意见的同时,也在鼓励发展通用人工智能。

“北京、上海、深圳是最具雄心的第一梯队,均提出了较具雄心的人工智能科研、创新与产业目标。欧盟继续在监管和立法方面领先,一如其5年前率先推出GDPR。美国更在意人工智能技术的领先地位,正在形成以风险管理为原则的监管框架。”

长期来看,人才对人工智能未来的影响,超过了算力。中国研究人员发布的论文在数量上已经超过了美国,但金字塔顶端,无论是研究还是创业,美国仍然占据明显优势。同时,科技部已提出了人工智能企业应接受科技伦理审查;审查主体应该设立科技伦理(审查)委员会。美国人工智能企业较早开始设立负责任与可信人工智能部门,从去年到今年以来经过一些调整,反映出在生成式人工智能发生变革之际,企业正在寻求用更好的技术和方案,来安全和负责地部署新技术。

值得一提的是,在解读完这份报告之后,周志峰还发布了《生成式AI》的十大前瞻。

其中,在大语言模型方面,《生成式AI》认为,2024年中国将出现比肩GPT-4的多语言通用大模型;超长上下文(Long Context)将引领下一次LLM技术突破;在出现更有前景的大语言模型之前,为实现垂直领域更好的效果,以下三种方式将共存:第一,在不改变数据分布的情况下,利用更多通用数据进行通用大模型预训练,不特别引入行业数据;第二,利用行业专属数据微调(Fine-Tuning)通用大模型;第三,利用行业数据占比更高的数据集,进行垂直模型预训练。

多模态模型中,当前CLIP+Diffusion的文生图模型是过渡态,未来2年内将出现一体化的模型结构;下一代Text-to-Image模型将具备更强的可控性,它将结合底层模型能力和前端控制方式,对模型的设计将注重与控制方式的结合;2025年之前,Video和3D等模态将迎来里程碑式的模型,大幅提高生成效果。

此外,以PALM-E为代表的具身智能(Embodied AI)展现出机器人感知、理解和决策等方向上的巨大潜力,但当前训练和可靠性存在较大挑战;短期内Transformer正成为多个模态的主流网络结构,但压缩整个数字世界的通用方法尚未出现,Transformer并不是人工智能技术的终点。

商业机会上,《生成式AI》认为,3年内颠覆式的AI应用的核心驱动力来自于底层模型的创新,两者无法解耦,模型的作用将大于产品设计的作用;当前生成式AI市场处于技术主导的早期阶段,存在千亿美元市值的平台性企业的机会。

标签:

为您推荐

新闻快讯