登录
首页 > 文章列表 > 当 AI 能 “以假乱真”,人类的价值该去哪找?

更新时间:2025-06-01 10:00:33 编辑:丁丁小编
来源:点击查看

简介

不得不说,现如今大众可以接触到的AI工具,已经干出刷新认知的事情。

前段时间,有网友通过精准锚定提示词,使得豆包能生成出几可乱真的不可描述内容。虽然,这并不算什么稀奇事——在AI应用面世早期,“文生图”制作不可描述内容,就是部分人群有意吸引人体验的一大卖点,也是驱动AI应用发展的一大动力。然而,当潘朵拉魔盒向公众打开,所能造成的影响范围,显然是呈几何级数增长。

尽管豆包方面加班加点修复了相关的描述词漏洞,但豆包作为当今主流的LLM(Large Language Model)智慧体,仍需要小心被用户通过另外的提示词驱动,进而“重拾技能”。

LLM智慧体千千个,为何是豆包挨枪子?要回答这个问题,就得请出AI业界基石级论文《Attention is all you need》。太长不看版:要驱动LLM智慧体干出能看的活儿,除了解码器(transformer)可以准确读懂用户的诉求(也就是提示词),还需要模型背后拥有海量训练数据支撑,作为结果生成的来源。

作为字节跳动基于云雀模型开发的AI工具,豆包可以,也理应,使用同公司产品的数据,来进行训练。在同公司的产品中,抖音自然可以发挥重要的贡献。

QuestMobile数据显示,截至2025年3月,抖音(包括抖音和抖音极速版)月活跃用户规模突破10亿,达到了10.01亿。光是月活跃用户规模就突破10亿,这就意味着包括图片评论在内的UGC内容量,能够达到一个无可估量的数据。

当然,事已至此,谴责豆包是于事无补,何况豆包方面已经表达了自己的诚意。我们可以做的,应该是基于这件事想得更多更远:现如今乃至未来的AI,还会对大众造成怎样的冲击。身处浪潮之中,当AI能够以假乱真,我们还能相信什么?

AI 对生活的冲击越来越强

我们不妨一起先来看看同是字节出品的扣子空间,最近为我们上线了怎样的惊喜——有网友发现,其新增的AI播客模式,只需“素材+一句话提示词”,即可生成让人惊讶的对谈式博客内容。

这个“令人惊讶”,究竟是怎么的情况?要不是亲手按下扣子空间生成页面里的播放键,笔者真以为自己在收听真人播报的博客。从语音语调,到停顿语气,甚至是一些展现所属的确的语言习惯,扣子空间都能复现得惟妙惟肖。

如果你看过最近流行的,以AI驱动创作的“明星亲述角色心路历程”讲解视频,觉得扣子空间这个功能,不过是小菜一碟,那么在美国当地时间5月20日召开的谷歌2025年度I/O开发者大会上亮相的Veo 3视频生成模型,应该能给你一顿结结实实的暴击。

Veo 3视频生成模型不仅理解提示词更准确,生成画面质量更高更流畅,还能同步生成视频和音频,甚至是角色之间自然流畅的对话。对比之下,隔壁Open AI家的Sora,不仅还不能同步生成音频,就连画面逻辑还是有纰漏。Veo 3模型的面世,宣告AI制作视频的能力,已进入下一阶段。

AI对于人类的意义是什么?

起初,AI被渲染成改变生活的重要力量,但最终可能只是一场略显笨拙的对答。直到现在,当制作不可描述内容的能力被报道,当生成的内容放在人类世界也能称得上是优质制作,AI在经过了各种方式的被忽视后,终于显现出可以制造雪崩的意义。

时代的一片雪花落到个人头上,已经可以是一场雪崩,更别说这本来就是一场雪崩,哪怕到来的速度较为缓慢。那么到了这个时候,个人应该要怎样和AI相处?

更当务之急的课题,相信是“如何不被AI替代”,毕竟就在几天前,“Claude 之父”Anthropic CEO 阿莫多(Dario Amodei)就放出言论,指人工智能可能在未来一到五年内消灭一半的初级白领岗位,这会导致10%-20%的失业率飙升。

阿莫多认为,现如今的AI工具发展,已经不容得人用“玩具心态”去看待。他说,别只是浅尝辄止地用AI这个技术,一旦你真正深入使用,就会发现它已经能胜任研究员、分析师,以及一大批入门级白领岗位的工作。

换个角度看,这就意味着大家是真的要认真考虑自己在职场中的不可替代性。无论选择精进已有的职场技术,还是尽早离开转投自己真正感兴趣的领域,都是展现不可替代性的具象化方式。当专业能力实现突破,才能将AI能力的定义,从“威胁”转变为“帮助”,产生1+1>2的效果。

因为AI进行个人能力提升或职场身份转变,在此过程中还能锻炼甄别AI所提供信息真伪的能力。随着AI能力的渗透,越来越多用户会发现AI存在一本正经胡说八道,甚至凭空捏造事实的情况。导致这种情况的根本原因,还是在于对训练数据的甄别和清晰。

在信息传播碎片化,容易发生“让子弹飞一会儿”式反转的当下,个人本就应该具备一定的信息甄别能力。AI能力的增强随之而来的AI工具可用性增强,显然一定程度上推动了个人增强信息甄别能力的需求。

当温水煮青蛙既成事实,差别就在于什么时候选择怎样的方式跳出来。好在,做一件事最好的时间,要么是十年前,要么就是现在。

热门文章