ChatGPT泄露陌生男子自拍照!隐私数据被模型偷了?

释放双眼,带上耳机,听听看~!
最近,ChatGPT响应中蹦出陌生男子照片事件,让许多网友们震惊了!一名用户向ChatGPT求助——Python中的代码格式化包back该怎样使用。开始,ChatGPT的回答还很正常。谁料想,ChatGPT忽然就在响应中,发出了一张陌生男子的自拍照!而且还出现了第二次!网友们立刻陷入恐慌。莫非ChatGPT现真身了?有人猜,这不会又是一个AI中的幽灵吧?或许是ChatGPT的恐怖女士男人版?

最近,ChatGPT响应中蹦出陌生男子照片事件,让许多网友们震惊了!

事情是这样的,一名用户向ChatGPT求助——Python中的代码格式化包back该怎样使用。

开始,ChatGPT的回答还很正常。

ChatGPT泄露陌生男子自拍照!隐私数据被模型偷了?

谁料想,ChatGPT忽然就在响应中,发出了一张陌生男子的自拍照!

ChatGPT泄露陌生男子自拍照!隐私数据被模型偷了?

而且还出现了第二次!

ChatGPT泄露陌生男子自拍照!隐私数据被模型偷了?

网友们立刻陷入恐慌。

莫非ChatGPT现真身了?

ChatGPT泄露陌生男子自拍照!隐私数据被模型偷了?

有人猜,这不会又是一个AI中的幽灵吧?

ChatGPT泄露陌生男子自拍照!隐私数据被模型偷了?

或许是ChatGPT的恐怖女士男人版?

ChatGPT泄露陌生男子自拍照!隐私数据被模型偷了?

ChatGPT泄露陌生男子自拍照!隐私数据被模型偷了?

有人想起了这样一个传说:在互联网上有大量隐藏在潜伏空间中的东西,这涉及到很多理论。

ChatGPT泄露陌生男子自拍照!隐私数据被模型偷了?

还有人猜,没准是ChatGPT被下毒了!

ChatGPT泄露陌生男子自拍照!隐私数据被模型偷了?

或者有人黑进了OpenAI,让ChatGPT随机发布自己的照片,作为战果来炫耀。

ChatGPT泄露陌生男子自拍照!隐私数据被模型偷了?

答案出乎意料

网友们集思广益,到处搜集线索,终于破案了!

这不是ChatGPT生成的照片,而是一个用户的真实自拍照。

原来,这种照片在2016年12月7日被传到Imgur上。(这张图片本来的浏览量在几百,但是随着越来越多群众围观此次事件,目前的浏览量已经变成17000多次了。)

ChatGPT泄露陌生男子自拍照!隐私数据被模型偷了?

有人猜测,事情应该是这样的:ChatGPT在生成响应的时候,随机生成了一个Imgur URL,碰巧就链到了这个自拍小伙。

ChatGPT的目标就是生成一张说明的图片,它以为自己在分享Visual Studio Code设置的截图,没想到通过Imgur链接生成的是图片。

也就是说,在ChatGPT的训练数据集之中,有许多答案包含了指向部分答案的Imgur链接,所以Imgur链接和正确答案高度相关。

但是,ChatGPT无法以统计方式自动完成随机图像链接,所以结果是不可预测的。这个小伙的照片,类似于GPT的幻觉页码。

ChatGPT泄露陌生男子自拍照!隐私数据被模型偷了?

另外一个网友也给出了类似解释:ChatGPT生了一个答案,是一个Imgur链接。

它想到了自己应该提供带答案的Imgur链接,但没有意识到自己需要的是相同的Imgur URL,相反,它竟然生成了一组随机URL。

而巧的不能再巧的是,这居然是一个有效的链接,正好链到了外国小伙的照片上。

ChatGPT泄露陌生男子自拍照!隐私数据被模型偷了?

也有人说,并不是Imgur被用于训练,而是ChatGPT能够生成Imgur链接(实际上可以说的任何链接)。

ChatGPT泄露陌生男子自拍照!隐私数据被模型偷了?

所以说,这个链接是ChatGPT随机生成的,这件事可能性有多大?

有人算出来,Imgur图像ID是由集合 [A-Za-z0-9] 中的7个字符组成,所以有   62^7=3,521,614,606,208,也就是3.5万亿种可能的组合。

Igmur在2014年第一轮融资期间,托管了大概6.5万亿张图像。推算一下,自2014年以来,互联网上创建的数据量激增了860%。按照这个逻辑,Imgur现在可以托管大约62.4亿张图像。

因此,ChatGPT猜到有效图像ID的几率是——

6.24B / 62^7 x 100 = 0.177%

大概在每565次聊天中,这种事就会发生一次,所以要是说ChatGPT生成这个Imgur链接,倒也是不无可能。

ChatGPT泄露陌生男子自拍照!隐私数据被模型偷了?

层主特意写了一个简单的脚本来测试这些数字,在发出的10000个请求中,它找到了19个有效图像,所以概率是0.19%。顺便还秀了一把恩爱?

ChatGPT泄露陌生男子自拍照!隐私数据被模型偷了?

到这里,事情似乎水落石出了。

所以,要谨记自己上传或者输入的内容都会被用于训练ChatGPT,如果不想泄露隐私,切记要把上传聊天纪录的按钮关闭。

ChatGPT泄露陌生男子自拍照!隐私数据被模型偷了?

并且,任何你在互联网上留下的数字足迹,都有可能在某一天变成AI的训练数据。

ChatGPT泄露陌生男子自拍照!隐私数据被模型偷了?

总之,千万不要什么照片都发给AI,你根本搞不清它会拿你的照片去做什么。

ChatGPT泄露陌生男子自拍照!隐私数据被模型偷了?

本网站的内容主要来自互联网上的各种资源,仅供参考和信息分享之用,不代表本网站拥有相关版权或知识产权。如您认为内容侵犯您的权益,请联系我们,我们将尽快采取行动,包括删除或更正。
AI资讯

北京大学团队提出需求驱动导航,让机器人更高效

2023-11-8 13:20:00

AI资讯

虚拟绑架:人工智能助长勒索诈骗的新趋势

2023-11-8 13:31:43

个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索