ChatGPT现诡异“错频”?女用户看这回复更震惊 网民忧泄私隐

撰文: 夏洛特
出版:更新:

AI聊天机器人程式愈发普及,不少人更是事无巨细都会查询一番。近日1名外国网民却在使用ChatGPT的语音模式查询需购买的日常用品后,怀疑ChatGPT“错频”,误将她和另1个自称“琳赛和罗伯特”的帐户对话混合,并提供其他答案,对话中更出现她没有说过的回应。在她提出质疑后,ChatGPT还“大方认错”,称“看来我误将不同对话或帐户的上下文混淆了”,令她担忧个人资料外泄风险。不过,有AI专家与程式设计师解释,ChatGPT当时可能只是出现“幻觉”!

国外1名网民莉兹在TikTok分享使用ChatGPT时,疑发生“被误当其他用户”情况。(“wishmeluckliz”TikTok影片截图)

综合外媒报道,国外1名网民莉兹(Liz)在社交平台TikTok分享使用ChatGPT的“奇怪经历”。莉兹在影片中表示,她日前使用ChatGPT的语音模式,口述创建购物清单,处理完成后她就保持沉默,没有意识到尚未关闭语音模式,但期间她都没有再说话。

ChatGPT突以“其他名字”称呼 古怪对答令人惊栗

然而过了片刻后,ChatGPT突然回复她一段毫不相关的讯息,甚至称呼她为“琳赛和罗伯特”(Lindsey and Robert),“你好,琳赛和罗伯特,看来你们在准备一场演讲或研讨会的开场。请问你在内容方面有什么需要特别协助的吗?也许需要帮助你组织演讲辞或投影片?请告诉我,我可以如何提供协助。”。

ChatGPT突然回复莉兹一段毫不相关的讯息,甚至称呼她为“琳赛和罗伯特”(Lindsey and Robert)。(“wishmeluckliz”TikTok影片截图)
莉兹强调自己没有说话。(“wishmeluckliz”TikTok影片截图)

莉兹强调自己没有说话,不清楚系统收录了什么声音才会提供相关回应。于是她特意翻查语音转文字录音稿记录,以确认情况。讵料,录音稿显示出“怪异”讯息,还出现一段她根本没说过的对话。原来在她沉默期间,系统莫名记录了她自称“琳赛.梅”(Lindsey May)和1名叫作罗伯特的男人,两人声称要举办研讨会。

事主质疑ChatGPT误将“其他帐户”对话混合

莉兹当下困惑不已,于是再度以语音模式向ChatGPT表示自己只是在规划要购买的生活用品,怀疑ChatGPT“错频”,误将她和另1个“琳赛和罗伯特”的帐户对话混合,“我不是琳赛和罗伯特。现在我是不是跟其他帐户搞混了?”,而ChatGPT回复“看来我误将不同对话或帐户的上下文混淆了。你不是琳赛和罗伯特,这则讯息应该是传给别人的”。

ChatGPT回复“看来我误将不同对话或帐户的上下文混淆了。你不是琳赛和罗伯特,这则讯息应该是传给别人的”。(“wishmeluckliz”TikTok影片截图)

ChatGPT“认错”:看来我混淆了

ChatGPT的回应更是令莉兹汗毛直竖,她认为ChatGPT似乎是在承认误泄他人隐私,她对此大为震惊,并表示希望一切只是自己过虑,又希望网民提供合理解释。而有部份网民在留言指,在使用不同AI语音模式时,也遇到类似情况。

ChatGPT表示“每场对话应当是私密且独立的”。(“wishmeluckliz”TikTok影片截图)

不过,莉兹的影片后段也有她质问ChatGPT会否泄露她的对话给其他用户,而ChatGPT坚定表示不会,并指“每场对话应当是私密且独立的”。

专家解释ChatGPT陷“幻觉”

据《纽约邮报》报道,1名AI专家与程式设计师却解释ChatGPT可能是出现“幻觉”。专家解释,当语音模式运作时,系统会试图分析收录到的音频并撷取语言,“当你开启语音模式但不说话时,系统会尝试从音讯中提取语言,如果没有说话时,它就可能产生‘幻觉’”。专家又补充指,ChatGPT并非“错频”,只是“在幻觉中”倾向于同意用户观点,“所以当你提出它是否‘错频’时,它同意了你的观点,试图成功地‘解答你的疑问’”。

(综合)