灼见

【灼见】AI是双面刃/周若鹏

那家推出ChatGPT震惊世界的公司OpenAI又再让大家震惊了,这回是Sora,一个可依文字输入创作视频的人工智能系统。

我无法具体解释这科技多么繁复,电脑要明白指令之余,还要明白物件之间的空间关系,掌握光影,那还不是最难的,还有物理关系,比如人踢球,球该飞什么方向?多高多远?碰到墙壁是反弹还是把它撞倒?

这技术不新,一年前已经发布过了,当时AI制作的视频惨不忍睹,但短短一年后作品已几可乱真。进步之快,我也无法具体表达我的赞叹,但同时我也在思考它对社会的冲击。首先要担心的,是AI的确会取代影像工作者的部分工作,首当其冲的行业是视频素材库。

影视业也会“沦陷”

尽管目前AI生成的视频不完美,但用在过场等非关键画面是可行的。以前这类场景可从视频素材库取用,这么做优点是方便快捷,缺点是素材并不独特,他人的作品中也会出现相同片段,AI就解决了这问题,如果AI可根据指令生成独有片段,谁还要用素材库?如此提供素材的影像工作者也会失去权利金的收入。如果用AI就能生成视频片段,又何须花钱聘用摄像团队?

这个冲击不会马上感受到,视频AI还不完善,比较恰当的用途是辅助影像工作者,减少工序,提高利润。但以发展速度来看,迟早会发展到完全无需摄像师介入,普通用户就能制作出所要的视频。

到那个时候连影视业也会“沦陷”,试想如果输入剧本就能产生影像,还需要演员、灯光、场务、茶水、音乐、音效、特效吗?还需要“拍戏”吗?视频AI加上换脸技术(Deepfake),甚至可在电影完成以后才决定演员的脸。

用以诈骗或勒索

诈骗恐怕会更猖獗了。这早已是“有图没真相”的年代,这年头不只连视频不能信,连视讯也不能轻信。本月香港某国际公司被骗了2亿港元,骗徒用该公司首席财务官的脸,通过视讯指示职员转账。

你的社交圈当中可有一些特喜欢分享马哈迪讲日语、习近平讲英语、李显龙卖保险的人?他们盲目相信视频,特别好骗。那些还只是相对静态的演说视频罢了,用常识便可识别真伪。且想象一下骗徒用AI生成亲人被绑的视频,或者干不法勾当的视频,用以诈骗或勒索,将有更多人会遭殃。另外,视频还能当呈堂证物吗?

以上可能延申的社会问题,谷歌、OpenAI必然早就想到,也会把关,但科技流传民间是迟早的事。生成视频需大量电脑资源,掌控在科技巨头手中,但歹徒能先利用科技巨头生成视频 ,再用自家电脑换脸。比如说我指示Sora生产男人携伴游巴黎的视频,然后把男人的脸换成你,你不付钱给我,我就传给你老婆。

总之,魔是肯定高一丈的。我不抗拒视频AI,它是必然的演进,无疑会提高工作效率。只希望大家提高警惕,电脑越来越厉害,拿起手机的时候,别把人脑关掉就行了。

反应

 

国际财经

挑战OpenAI模型Sora Meta推AI影像生成工具

(纽约5日讯)生成式人工智慧(AI)模型竞争激烈,Facebook母公司Meta今天推出AI影像生成工具Movie Gen,使用者能以文字提示或图片来生成影片。创建ChatGPT的OpenAI年初才推出同类型模型Sora。产品目前都尚未正式对外开放。

将自己的大头照上传,给予AI模型文字提示,就能化身成骑白马的女牛仔或是实验室里的科学家。这是Meta推出的Movie Gen所生成的个性化影片功能。

Meta今天于官网上秀出AI影像生成工具,并强调AI工具不能取代动画师和艺术家的工作,而是帮助大众以创新方式表达自己,并且提供更多人机会。

生成式AI领跑者OpenAI今年初才推出Sora模型,也是输入几行文字即可产生高度逼真的影片片段,生成长达1分钟的影片,许多YouTuber及内容创作者怀疑,自己是否将成为被演算法取代的最新职业。模型至今尚未对消费者开放。

英国《金融时报》(The Financial Times)报道,Meta计划将影片生成工具提供给好莱坞电影制作人、艺术家,还有网红等具影响力人士,帮助他们在社交平台上创作内容,不过预计模型最早要明年才会整合到其他平台供一般用户使用。

Meta产品副总裁海斯(Connor Hayes)表示,目前如果用户在Instagram上使用影片编辑或影片生成功能,可能会发现速度不如预期,“我们可以想像,这些AI模型在Reels创作和编辑方面会非常强大,这是我们正在探索的应用方向”。

生成式AI模型市场竞争激烈,Meta和OpenAI之外,Google子公司DeepMind今年也推出Veo,让创作者注册使用。Google计划在未来将部分功能整合至YouTube Shorts等产品当中。此外,AI影片生成新创公司Runway也推出类似的工具。

Meta表示,盲测结果显示,经由Movie Gen生成的影片,在“整体品质、动作、自然度和一致性”方面超越竞争对手。

科技公司近来相继推出生成式AI模型引发安全性争议。前OpenAI技术长穆拉提(Mira Murati)日前接受《华尔街日报》访问时,对训练资料的来源回答过于含煳,曾遭致外界质疑。Meta则指出,其模型是基于“授权和公开可用的数据”进行训练,但并未提供进一步的细节。

Meta亦表示将持续征求电影制作人和创作者的意见,并将替模型生成的所有影片加上浮水印,避免版权相关问题、以及可能出现的深伪(deepfake)问题。

海斯表示:“这些都是我们必须解决的挑战之一,也是为何目前(AI模型)只当作研究成果来发布的一个重要原因。”

新闻来源:世界新闻网

反应
 
 

相关新闻

南洋地产