OpenAI最近搞出来的那个图像生成模型4o,可真是让人惊掉下巴!这玩意儿在生成图片里的文字方面,简直厉害得不行,尤其是做假文件,成了不少人的“心头好”。现在啊,假收据、假处方,还有假护照啥的,到处都是,看得人心里直发慌。
就说在社交媒体上吧,Menlo Ventures的投资人Deedy Das,他发了一张假收据的照片,说是在旧金山一家超有名的牛排馆吃的豪华大餐。他还在推文里写:“用4o就能生成假收据。”这话一出来,可炸了锅了。为啥呢?因为好多地方都靠“真实图片”来验证东西,现在可好,全乱套了。
这张假收据啊,做得跟真的一样,菜品清单、小计、小费,都算得明明白白的。还有更绝的,有人用这模型生成的图片,再加工一下,加上逼真的滤镜,弄点食物污渍上去,简直就是为骗钱量身定做的。
随着技术越来越牛,OpenAI的图像生成能力也是蹭蹭往上涨。以前的模型啊,生成字母的时候经常出乱码,或者冒出些搞笑的短语,现在4o可没这些问题了。用户们不仅能做假收据,还能做控制药物的假处方呢。
这事儿可把大家愁坏了,AI生成假文件这么容易,那违法活动不就更猖獗了?伪造税单、银行支票、身份证、出生证明啥的,想想都可怕。现在这些文件检测手段,能不能对付得了,还真不好说。虽然有些AI公司想了个招,给生成的图像加元数据或者水印,但感觉也拦不住那些想搞欺诈的人。
说起来,早在2015年就有调查说,85%的人承认为了多报销撒过谎。这些欺诈案啊,好多都是因为公司里没管好,应付账款流程也有漏洞,所以一直没被发现。这么一看,现在网上看到的东西,你还真不敢随便信。