明敏 发自 凹非寺
量子位 | 公众号 QbitAI
(相关资料图)
以假乱真的AI生成式图片,AI自己分辨不出来了。
这张马斯克和机器人女友的照片,5个鉴别器里有2个都觉得是真的:
还有这张人类和3米巨人的合照,居然5个鉴别器一致判断为真:
啊这,AI鉴别器似乎不太靠谱的亚子。
这就是《纽约时报》最近做的一项测试,他们找来了市面上五个常见的AI鉴别器,分别喂给它们100多张照片做测试。
结果发现,AI鉴别器不仅会把AI照片错认成真的,也会把真实照片划定为AI生成的。
而且不同鉴别器之间的水平差距也不小。
具体表现如何?一起来看
加点颗粒(Grain)就能骗过鉴别器
在这项测试中一共使用了5个AI鉴别器,分别是:
Umm-maybe
Illuminarty
A.I or Not
Hive
Sensity
测试的内容包括AI和人类创作的图片,分别喂给每个鉴别器,看它们会怎样判断。
使用的AI创作工具包括Midjourney、Stable Diffusion、Dall-e等。
《纽约时报》主要展示了这样几个例子。包含5张AI创作的图片,以及2张真人拍的照片。
从统计结果来看,五个鉴别器中只有Hive全部判断正确。
Umm-maybe的表现最差,只判断对了两张图。
举例来看,这张照片是AI生成的,听说还在2月的一场摄影比赛中拿下大奖,这道题就难倒了大部分鉴别器。
但这张纯AI生成的照片,就没有逃过大部分鉴别器的法眼。
对于人类创作的照片,AI鉴别器的正确率比较高,两张照片都只有Umm-maybe鉴别器判断错误。
此外他们还专门测试了艺术画,发现大部分AI鉴别器能判断出这是真人画的。
对比另一幅AI创作的,同样也是四个鉴别器判断正确。
(Umm-maybe啊……是真的不太行)
值得一提的是,如果对AI图像进行一些加工处理,AI鉴别器会失效。
比如这张Nike男的照片,一开始有4个鉴别器判断它是AI生成的。
但如果给图片加一些颗粒,AI鉴别器就会将这张图片的AI含量从99%,判断为仅有3.3%。
最后,我们也测试了一些能上手实测的鉴别器(Umm-maybe、Illuminarty、A.I or Not)。
结果显示,对于“马斯克在苏联”这张图,Umm-maybe觉得它有85%的概率是人类创作的。
Illuminarty觉得它是AI创作的概率仅有5.4%。
只有A.I or Not确定了它是AI生成的。
AI鉴别的判断标准是啥?
那么AI到底是怎么鉴别真伪的?
普遍来说,它们和人类的判断标准不太一样,人类一般以图像内容的合理性为依据,而AI更多是从图像的参数入手,比如像素的排列方式、清晰度、对比度等。
所以这就解释了开头那张巨人照片,为啥所有鉴别器都觉得很真。
在AI画画大火一年多以后,如今市面上已经出现了非常多鉴别器。
有的就是直接放在Hugging Face上供大家免费使用,有的则是已经成立公司,只提供API接口形式。
比如Hive就是一家提供商业解决方案的公司,从如上的测试结果可以看到,Hive的表现效果也是最好的,几乎都能判断正确。
而在这之前他们的主要业务是为平台网站提供数据审核服务,图像视频文字都支持,服务的平台有Reddit、Quora等。
参考链接:
https://www.nytimes.com/interactive/2023/06/28/technology/ai-detection-midjourney-stable-diffusion-dalle.html
上一篇:wow国服客户端改台服(wow台服官网)-天天速看料
下一篇:最后一页
明敏发自凹非寺量子位|公众号QbitAI以假乱真的AI生成式图片,AI自己分
河北日报客户端7月1日起一批新规将正式实施一起来看看哪些与你我有关河
金银河公告,公司子公司金德锂中试生产线已投入生产运行并已实现产品销
巴安水务公告,2023年6月29日,公司第五届董事会第十次会议审议通过了
中国恒大在港交所公告,截至2023年5月末,恒大地产涉及未能清偿的到期
中金公司6月30日大宗交易成交551 4万股,成交额1 84亿元,占当日总成交
据上证报,极电光能6月30日宣布,近日,经全球权威机构TUV-SUD检测认证
不过半年时间AI泡沫就破了?全球AI概念股集体“历劫”:流量见顶,减持
1、您诺基亚设备的保修状态为:您所查询的序列号354839041462477,在数
晨光生物公告,2023年1—6月,归属于上市公司股东的净利润预计盈利2790
据上交所消息,截至2023年6月30日,上交所基础设施公募REITs市值合计60
神火股份公告,董事会同意公司控股子公司神隆宝鼎新材料有限公司(以下
鼎捷软件公告,公司拟与湖州市吴兴区人民政府、湖州市吴兴区妙西镇人民
据央视新闻,当地时间30日,联合国教科文组织会员大会特别会议通过了会
来为大家解答以上的问题。wow国服客户端改台服,wow台服官网这个很多人
作者:喻汀2019年6月,香港跑马地天主教墓地,一对夫妇的合葬墓遭人严
1、邪斑鱼卵鱼卵孵化时间为五天,大家等着就好了,时间一到自动孵化。2
科士达公告,拟定增募资不超过23 7亿元,用于光伏逆变器、储能变流器生
腾达建设公告,2023年1月至6月,公司及下属子公司中标项目共计6个,均
据阿里云消息,今天,中国广播电视网络集团有限公司(简称“中国广电”)
雅化集团公告,全资子公司雅化集团雅安实业有限公司(简称“雅安公司”)
浙江医药公告,6月29日,昌海制药收到FDA的通知函和针对本次检查签发的
上证报中国证券网讯日前,因多项业务违规,西部证券及相关负责人被出具
小小冲浪板翘起“体育+旅游”百亿级产业的海南实践---建设国际旅游消费
欢迎来到中非经贸博览会,此次博览会上都有哪些非洲特产?跟着新华
广告
X 关闭
广告
X 关闭