Meta正在为AI生成的内容处理标签
随着 Meta 继续开发其生成人工智能 (AI) 工具,包括Meta声称无与伦比的AI图像生成器,Meta 似乎已经加大了对其应用程序的众多生成 AI 功能的开发,包括允许创作者将图像标记为“由 Meta AI 生成”的标签。
由于 Meta 似乎热衷于推出面向消费者的生成 AI 工具,其社交媒体生态系统必须配备工具来标记 AI 生成或修改的内容。
本月早些时候,与其他六家致力于人工智能技术的公司一起,元维基承诺采取各种人工智能安全措施应白宫的要求。Microsoft,谷歌和OpenAI是承诺合作的其他公司之一。元维基一直很透明最近几个月关于其AI技术。
元维基的AI图像生成器,称为CM3Leon,其操作方式与DALL-E,稳定扩散和Midjourney使用的扩散模型不同。
CM3Leon不是添加噪声并减去噪声来创建图像,而是判断输入数据与构建图像的相关性,训练速度应该更快。说到训练,Meta说它已经使用Shutterstock的许可图像训练了CM3Leon。
Meta 正在研究的不仅仅是 AI 图像生成工具。根据Paluzzi的说法,该公司还在开发其他AI功能,如消息摘要工具和用于在Instagram上编辑故事的工具。
虽然目前尚不清楚Meta的一些新AI工具何时可供Facebook和Instagram用户使用,但该公司似乎已准备好标记AI生成的内容,这是件好事。
最好避免以下情况人工智能生成的五角大楼爆炸图像风靡一时五月在社交媒体上。
深度伪造检测软件分析血流
英特尔展示了一种新程序,该程序通过分析人的血流来检测深度伪造。一位名叫FakeCatcher的BBC记者前往英特尔了解它是如何工作的,以及它是否准确。
深度伪造是越来越成为一个问题;不真实的视频和错误信息有可能破坏社会信任。 “视频有可能欺骗人们,”麻省理工学院助理教授马特·格罗(Matt Groh)说。“还有泽连斯基总统的深度伪造的例子,那就是大约一年零几个月前向俄罗斯人承认失败。”
即使是专家也很难判断视频是否是深度伪造。但英特尔声称通过构建分析皮肤下血液的软件解决了这个问题。 “如果你只是试图找到错误的东西,它们就可以被修复,你再也找不到错误的东西,”英特尔高级研究科学家Ilke Demir解释说。 “所以我们扭曲了这个问题,我们问真实的视频什么是真实的,什么是真实的?所以FakeCatcher从看你内心的意义上看待这个问题。
德米尔解释说,当一个人的心脏泵血时,它会改变这个人的静脉颜色。这种颜色变化被称为光柔性摄影(PPG)。“我们从你脸上的许多地方获取PPG信号,并将它们转换为PPG地图,然后我们在此基础上开发一种深度学习方法,以分类为假视频或真视频,”她说。简而言之,FakeCatcher会寻找你脸上血液流动的微小迹象,这是deepfake所没有的。假捕手寻找其他线索,例如眼睛。德米尔解释说,真正的人类会看一个特定的点,但深度伪造者实际上有“粘稠的眼睛”。
英特尔表示,FakeCatcher的准确率为96%,适用于多种类型的深度伪造。但是,当BBC记者测试该软件时,它做得并不好。FakeCatcher展示了拜登总统和唐纳德·特朗普的deepfake视频和真实视频。它将深度伪造视频标记为不真实,但也将真实视频标记为深度伪造。该模型尚未分析英特尔希望能够提高其准确性的音频。
麻省理工学院亚裔学生通过人工智能将头像转为一个白人
24岁的Rona Wang要求Playground AI应用程序提供“专业的LinkedIn个人资料照片”。按照文本提示,她向AI提供了源照片:她自己的头像照。
来源照片显示,王女士穿着麻省理工学院的毛衣,她有一头黑发和黑眼睛,但人工智能为她生成的图像显示了一个蓝眼睛的高加索女孩;与王的不同。“看到结果后,我的第一反应是娱乐,”王告诉内幕.“然而,我很高兴看到这催化了围绕人工智能偏见的更大讨论,以及谁被包括在或不包括在这个新的技术浪潮中。
本文来自机翻