手机生成式AI开卷 本地化端侧部署迫在眉睫
创始人
2024-01-08 21:36:10
0

原标题:手机生成式AI开卷 本地化端侧部署迫在眉睫

在新一代的手机中,几乎所有手机厂商都将AI大模型作为宣传点,仿佛手机有了AI大模型过后,就能变得无所不能一样。

AI无所不能的印象,可能是聊天机器人带给大家的错觉。手机厂商发展AI大模型的思路肯定是正确的,未来手机要是没有大模型,那肯定是不行的。

至于手机AI大模型为何会在现在这个时间点爆发,在我们看来原因很简单,就是性能够了。

最新款的第三代骁龙8移动平台,内置了强大的NPU,相比上代产品AI算力提升了98%,能效也提升了40%。可以支持在手机中轻松部署70亿参数大模型,甚至100亿乃至130亿大模型也未尝不可。比如100亿级别的Meta Llama2,就能让用户在本地进行文本、图像和语音交互。

模型参数这个数据可能还有些抽象,Stable Diffusion的图像生成速度,更能反映出AI性能的提升。在高通此前通过第二代骁龙8的Demo演示中,生成一张图片的时间大概要15秒左右,而在第三代骁龙8中,只需不到1秒即可完成图片生成。

不到1秒和15秒之间是有着本质性区别的,意味着它可以直接嵌入到手机相机应用中,可以在拍照过后,立刻以照片为基础生成一张效果更好的图片。高通就在这方面进行过演示,预先提供一张背影照片,即可让AI精准生成一张身处海边的黄昏时刻背影大片,将类似功能嵌入到相机中,无疑是个很有创意的想法,每张照片不到1秒的额外时间,完全对得起照片效果,但拍照过后等15秒才能看到照片,或许就不能被大众接受了。

可能有人会说,Stable Diffusion只是一款10亿大模型的图片生成工具,现在手机中部署的可是70亿大模型。其实对性能我们不用担心,手机中部署的都是比较全面的大模型,Stable Diffusion则是针对图片生成的模型。从目前有限的机型实际体验,大模型现在提供的功能中,图片和文本的生成速度,与模型的交互速度都很令人满意。

AI大模型实用性实战,生成式使用提高效率

在AI大模型的加持下,手机现在确实能玩出很多新花样。搭载第三代骁龙8的小米14 Pro,在小爱同学中就提供了大模型加持,支持了图片生成,只要在小爱同学中给出一些关键词,即可快速生成一张符合主题的图片,也可以使用口语化的语音指令,让小爱同学来生成图片。

从我们随手给出关键词生成的照片来看,两张照片均完美符合我们给出的主题,效果上也相当不错。完全可以用在平常的图片制作上,如果你缺乏图片素材时,或许可以尝试向你的手机求助,AI大模型或许就能给你不一样的灵感。

AI写真功能则可以对人像照片进行深度学习,生成各式人像主题图片。使用该功能需要先在图库中选择20-30张图片,让AI进行人像特征识别学习,之后就可以以此为基础填入各种关键词,来生成图片了。

该功能具备不错的实用性,比如你想要一张美美的学生证照片,就能在AI证件照模型下,生成标准版的白底、蓝底证件照片,照片肯定是符合你的五官特征,而且还是经过美颜的。想要改变自己的形象时,也完全可以先用AI写真探探路,看看自己从长发变成短发后,究竟会有怎样的气质改变。

小爱大模型还能进行各种文本写作,影评、微博文案、作文等都能搞定,甚至我们给个主题,还能生成PPT。这些是可以显著提高生产力效率的,AI写出来的东西或许没办法直接使用,但在文本基础上进行修改,效率总是比从零开始直接写要高得多。

更多传统的AI使用方式,也能在大模型的加持下,获得更好的呈现效果。这里首推小米14系列的魔法消除功能,不仅能够在照片中识别出各种物体,可以直接去除物体,去除乱入照片的路人。

隐私安全存隐患 端侧部署必不可少

在AI大模型的加持下,手机确实有着更丰富多彩的使用方式,不仅可以提高使用效率,还能让手机与我们变得更为紧密。手机厂商对大模型的推进也很用心,小爱、蓝心等大模型已经被大家所用到了。

AI大模型与生成式AI相结合,进一步完善了人机交互的方式,让口语化。平常化的交互成为了可能,使人机交互变得更为自然。它会为我们的生活带来更多的便利,这些便利不仅能体现在手机中,在PC、汽车等各种终端中,均可以体现。

但目前的手机大模型存在一些问题,其中最明显的,就是大模型的很多功能都需要联网使用。比如图片生成功能,在断网后就无法使用了,这显然对私密性是不利的。尤其是在AI人像相关的图片生成处理上,虽说厂商都承诺了私密性方面的保护,但终归是能完全在本地使用,才让人更为放心。

这其中牵扯到的,其实就是云端大模型和端侧大模型之间的问题了。我们期望在手机中部署的,肯定是端侧大模型,它熟知我们的生活习惯,对我们的各种隐私数据也了如指掌,这些数据显然是不能与外界共享的。而当下我们使用的大模型,还不能做到完全的本地化运行。这会随着技术发展和手机配置提升后,得到解决。

当然,AI大模型完全的端侧部署,需要移动平台和手机厂商的共同努力才行。移动平台目前已经基本满足大模型端侧部署的条件,性能已经在前文说过了,这里就不多啰嗦了。而在端侧部署的最大难题功耗上,第三代骁龙8在能效上有着40%的提升,与高通进行的大模型蒸馏工作结合,将大幅提升处理速度,而且能兼顾模型全天候使用的续航,从而让手机不用为此妥协设计纤薄性或是续航时长。

在我们看来,云端通用大模型与端侧大模型都是未来不可或缺的,在生成式AI的加持下,必然会改变我们的生活方式。对当下手机大模型所提供的新使用方式,确有需求可深入使用,否则了解一番即可。而打算对手机更新换代的话,就要提前考虑AI方面的相关支持了,显然以第三代骁龙8为代表的新一代移动平台,才是最可靠的选择。

相关内容

热门资讯

网速飞起!广州这三个小区成万兆... 5月17日,“万兆新生活,AI家更美好——2025世界电信日·广州移动万兆宽带网络服务发布会”在广州...
抗生素耐药性问题有望解决 据新华社巴黎电 法国国家科学研究中心日前宣布,该机构参与的科研团队成功识别出一种新分子NM102,能...
哈洽IN现场|哈洽会现“阳光搬... 世界因科技的绚丽而多彩,生活因科技的融入而更加丰富多彩。第34届哈洽会哈尔滨展区人头攒动,一款能让阳...
广东敏卓机电取得散热风扇专利,... 金融界2025年5月17日消息,国家知识产权局信息显示,广东敏卓机电股份有限公司取得一项名为“一种散...
第七届智能传感器产业发展大会将... 芯聚江淮,智感世界。第七届智能传感器产业发展大会将于5月23日至24日在安徽蚌埠举办。大会紧跟智能传...
Intel还是太会玩了!做了个... 快科技5月18日消息,Intel已经官宣,将在台北电脑展期间发布新卡,现在开始提前造势了,而且方式很...
国电南自获日内瓦国际发明展金奖 日前,第50届日内瓦国际发明展传来喜讯,由国电南京自动化股份有限公司(下称“国电南自”)下属企业南京...
粤商·省长面对面协商座谈会召开... 5月14日,粤商·省长面对面协商座谈会在广州召开,广东省委副书记、省长王伟中与12名粤商代表,围绕“...
最高资助1亿元!南京发布支持人... 开幕式现场。人民网 王丹丹摄 人民网南京5月18日电 (王丹丹)18日上午,2025“南京人才日”系...
新疆夜空中的不明飞行物是什么?... 5月16日晚,新疆多地拍摄到一个发光移动的物体,引发全网关注。据石榴云客户端报道,5月18日,航天科...
福建省首台机器人全飞秒VISU... 中新网厦门5月18日电 (杨伏山 小呜)18日,福建省首台机器人全飞秒VISUMAX800 在厦门眼...
国仪量子:发布新量子传感器 推... 【5 月 18 日,2025 量子精密测量赋能新质生产力会议在合肥市量子科仪谷举行】会上,国仪量子技...
从实验室到金奖!他们用雷达“听... 转自:中国科学报 “这款监测仪什么时候能卖到欧洲来?”“到时候可以让我做代理吗?”……不久前在瑞士举...
多只“妖股”,机构密集调研! 在调研中,安集科技称在电镀液及添加剂领域,公司已完成了应用于集成电路制造及先进封装领域的电镀 液及添...
南通海高数控取得龙骨冷弯成型机... 金融界2025年5月17日消息,国家知识产权局信息显示,南通海高数控机械有限公司取得一项名为“一种龙...
打开更辽阔的审美场域 应金飞 图为浙江美术馆展出的陈抱阳数字艺术《未被证伪》。 2025年国际博物馆日如约而至,主题为“...
苏州丝绸纹样有了数据库,“数字... 传统丝绸上绣得活灵活现的花鸟虫鱼纹样,通过数字采集也能变成数据产品。5月18日上午,苏州丝绸纹样数据...
科技赋能智慧警务 彰显央企担当... 5月14日至17日,以“新技术 新装备 新质战斗力”为主题的第12届中国国际警用装备博览会(以下简称...
杭州华耀通信取得PDU模块总成... 金融界2025年5月17日消息,国家知识产权局信息显示,杭州华耀通信设备有限公司取得一项名为“一种P...
淮安曼恩斯特取得过滤设备相关专... 金融界 2025 年 5 月 17 日消息,国家知识产权局信息显示,淮安曼恩斯特流体技术有限公司取得...