一只鸭子机器人,让我突然看懂了本地AI

距离NVIDIA的RTX Spark上市,已经过去33天。此前的文章里,我已经简单聊过它的性能表现。但在那之后,一个问题反而一直留在我脑子里:

我们到底需要用本地部署的AI模型来做什么?

和云端大模型相比,本地模型的优势其实已经不新鲜了——隐私得到保护,使用不依赖网络,也不需要每次调用都付出额外的API成本。但这些优势似乎还不足以成为普通人非本地模型不可的理由。

直到上周,我去了一趟上海英伟达办公室。现场用多台RTX Spark笔记本电脑和RTX Spark 紧凑型桌面主机(SFF),部署本地模型并展示了多个落地Demo,让我意识到本地AI的价值不是替代云端大模型,而是让AI向我们的日常生活再走一步。

我们在现场看到了华硕和机械革命的两款RTX Spark紧凑型桌面主机我们在现场看到了华硕和机械革命的两款RTX Spark紧凑型桌面主机

先说说游戏吧。现场展示的几款游戏中,《伊莫》对本地模型的应用给我的印象最深。

这项功能放在了《伊莫》的家园系统里,玩家可以通过语音指令,和自己放在家园里小伊莫进行互动,命令他们去种植作物、建造设施、或是完成挖矿浇水这样的简单工作。

这些事情看起来并不复杂,但恰恰因为任务范围有限,一个本地小模型就足以支撑这样的交互。玩家说一句话,伊莫就可以根据指令做出对应动作,也可以通过动作和表情回应玩家。

还可以让它们到你眼前集合,分别“表演才艺”

从技术角度看,这或许只是一个并不复杂的AI应用;但从玩家体验来说,它提供的是一种很直接的“情绪价值”——游戏里的伙伴开始真正听懂你,并且可以为你分担一些琐碎操作了。

这和几年前大模型刚出现时很像。

一开始,我们也会问“AI到底能拿来干什么?”。但现在,人们已经在写作、搜索、办公、编程等使用场景中离不开AI了。本地AI也许同样正处在这样一个阶段——技术已经准备好了,只是我们还没有养成对应的使用习惯。

当本地模型不再被限制在“小伊莫”这样的游戏角色里,它其实还能做更多事情。

由“特效小哥”团队带来了机器人Demo

现场的创作者中有人提到,他已经在用本地模型批量完成照片的基础调色工作;对于像我这样经常采访录音的人来说,也会通过本地模型对录音文件进行转写、整理和关键词分类。

但真正给我带来启发的,是现场的一个机器人Demo。

Microduck是Hugging Face今年推出的一个开源机器人。它能走路、踢球、滑行,摔倒后还能自己重新站起来,也可以通过强化学习训练新的动作。

在现场,这只鸭子的“大脑”并不在机器人身体里,而是放在旁边的一台RTX Spark笔记本里。通过Wifi网络,机器人把数据传回来,本地模型负责处理和整理,最终让机器人动起来。

这个过程最有意思的地方在于,它并没有要求使用者先成为机器人专家。

现场的一位工作人员告诉我,直到几天前他也不了解机器人该怎么玩,对机器人的电机等专业知识更是毫无了解。但他通过搭建工作流,让本地小模型负责采集整理数据、大模型来分析并下达指令,给自己搭建出了一套“从零开始玩转机器人”的流程。

这可能才是本地AI最值得关注的地方。我之前思考的,都是本地模型能放进哪些已有的生活场景里,但是在它的帮助下,我们其实能创造更多使用它的生活场景。比如在现场,还有另一个团队带来了一套教学授课的机械臂学习方案,同样依托于本地模型实现。

所以现在回头看,我觉得我们讨论本地AI时,或许不应该一直纠结“它能跑多大的模型”,反而应该多去想想怎样让它适配到更多生活场景里。

云端大模型更像一个擅长思考的大脑,处理复杂的问题、进行长链路推理、帮助我们制定计划。而本地小模型更像是与外界接触的“神经末梢”,它负责听见、看见、感知周围的变化,处理那些不值得专门“问一次大模型”的琐碎任务。

我们已经学会了把AI当做一颗外置大脑,随着RTX Spark这样的设备逐渐普及,它们对本地模型的支持,也一定会让我们逐渐学会把AI当做另一只手臂,去触摸那些我们现在还未想象过的生活。


内容来自 游戏研究社,版权归原作者所有。

阅读原文 ↗

用 HomepageTab 新标签页关注 RSS,打开浏览器就能看到更新。

安装 HomepageTab