画面身临其境可能也是AI伪造:警惕深度伪造技术滥用(小米首款SoC芯片真容今
徐大爷是天坛公园健身圈的一名“网红”,却因AI技术遭遇了一场无妄之灾。他的视频被不法分子盗用,并通过AI换脸技术将他变成了一个癌症患者,还附带了虚假广告。
随着人工智能技术的快速发展,诸如“AI换脸”和“AI合成照片、视频”等现象在网络中越来越常见。最近,“视频画面身临其境可能也是AI伪造”的话题登上微博热搜,引发了广泛讨论。尽管AI合成视频在技术上取得了巨大突破,但一些不法分子却将其用于制造谣言和网络诈骗。
要辨别AI合成视频的真伪,可以关注一些细节。例如,生成的视频中眨眼或闭眼的动作较少,或者两只眼睛的瞳孔颜色不一致,牙齿边缘过于整齐,这些都可能是AI合成的迹象。此外,观察人物面部表情是否自然、眨眼频率是否异常以及音频和视频是否同步也是常见的方法。
针对AI合成视频带来的乱象,相关部门已经采取行动。今年2月,中央网信办发布了2025年“清朗”系列专项行动整治重点,特别提出整治AI技术滥用问题,打击利用AI生成虚假信息的行为。国家网信办等部门也发布了《人工智能生成合成内容标识办法》,要求自9月1日起,所有AI生成合成内容必须添加标识。
互联网平台也在积极响应。抖音开展了专项行动治理“AI起号”现象,清理了311条违规内容,并封禁了15个严重违规账号。小红书则发布了关于整治AI技术滥用的公告,重点打击利用AI批量生产虚假内容涨粉、售卖AI起号课程等行为。
治理AI造谣需要多方面的努力。除了加强法律法规的制定和执行外,还需要提高普通用户的媒介素养与辨别能力。用户应保持怀疑态度,谨慎对待未经核实的信息,避免盲目转发。
5月22日晚7点,小米将举行战略新品发布会,届时首款SoC芯片玄戒O1和首款SUV YU7等新品将亮相。这款旗舰机SoC芯片的推出对小米意义重大,标志着小米成为中国第二家实现旗舰SoC芯片量产并商用的手机终端制造商。
外界对小米研发SoC芯片了解不多。据小米创办人、董事长雷军透露,2021年初,小米决定造车,并重启“大芯片”业务,重新开始研发手机SoC。四年时间里,小米完成了这款SoC芯片的研发和量产。截至今年4月底,小米在该项目上的累计研发投入超过135亿人民币,研发团队规模超过2500人,预计今年研发投入将超过60亿元。小米还制定了长期持续投资计划:至少投资十年,至少投资500亿。
雷军表示,如果没有巨大的决心和勇气,以及足够的研发投入和技术实力,玄戒项目无法走到今天。研发芯片是一项重资产模式,一款大芯片投入往往需要数亿美元,并且需要不断迭代,这都是长期的负担。此前,小米在芯片上曾遭遇波折,最初立项澎湃项目,但后来转为小芯片。2017年,小米首款手机芯片“澎湃S1”正式亮相,但未达到预期。之后,小米暂停了SoC大芯片的研发。
然而,小米的大芯片项目一直在悄悄进行中。一位内部人士形容该项目“一直很神秘”。行业分析师认为,小米芯片团队竞争力很强。玄戒O1采用最先进的3纳米芯片制程工艺,方案是小米自研AP架构搭配外挂第三方基带。Omdia首席分析师Zaker Li评价称,玄戒O1性能表现已可媲美当前市面上的旗舰级芯片产品。
对于非通信厂商出身的企业来说,研发基带难度大且获益不多。目前全球范围内,除华为和三星具备基带集成能力外,其他手机厂商普遍采用外挂基带方案,苹果也外挂高通的基带芯片。Omdia认为,采用自研应用处理器(AP)搭配第三方基带芯片的方案是小米SoC发展路径上的最优选择。