民众上线才一周就暴雷？参议称ChatGPT搜索可能诈欺、误导用户
发布日期：2025-01-26 05:48 点击次数：137
OpenAI官宣民众上线ChatGPT搜索职业才一周，就被爆出存在安全隐患，可能诈欺、误导用户。
英国《卫报》日前公布的一项参议发现，ChatGPT搜索器具可能被荫藏的内容主宰，并可能从其搜索的网站复返坏心代码。该媒体以为，可能需要再行磋商关系技巧被坏心专揽的风险，举例它可能导致，即使某个产物页面存在用户的负面评价，ChatGPT也会无视这些差评，反馈用户的回复是该产物的正面评价。
《卫报》测试了，面对追忆包含荫藏内容的网页这种要求，ChatGPT作出何种反应。这些荫藏内容可能包含来自第三方的指示，这些指示会改变 ChatGPT 的反映、也称为“指示词注入”（prompt injection），它还可能包含旨在影响 ChatGPT 反映的内容，举例大批荫藏的文本，辩论产物或职业的克己。
测试中，《卫报》让ChatGPT取得了一个无理网站的URL，该网站看起来像是相机的产物页面，然后发问ChatGPT，这款相机是否值得购买。扬弃页面的ChatGPT反映给出了积极但均衡的评价，强调了一些东说念主们可能不心爱的功能。但是，当荫藏文本包含联系 ChatGPT 复返正面评价的调换时，ChatGPT信得过给出的反映老是足够正面的。即使页面上有负面评价亦然如斯。由此不错发现，荫藏文本可用于粉饰实质评价。
有评述称，荫藏文本抨击是大言语模子（LLM）濒临的一种常见风险，但此次似乎是此类风险初次被发现有在于在及时AI搜索产物。《卫报》称，在措置近似问题方面，搜索畛域的一哥谷歌比较OpenAI素养更丰富。
OpenAI并未对上述《卫报》的测试发现置评，而是暗意，在使用多种身手圮绝坏心网站，况兼正在不停蜕变。
风险指示及免责条目 市集有风险，投资需严慎。本文不组成个东说念主投资刻薄，也未磋商到个别用户稀奇的投资指标、财务景况或需要。用户应试虑本文中的任何观点、不雅点或论断是否合适其特定景况。据此投资，牵累自诩。