新议论标明生成式东说念主工智能可能并不像看上去那么中立
发布日期：2025-03-12 07:06 点击次数：147
生成式东说念主工智能发展飞速，但东英祥瑞大学（UEA）的一项新议论申饬说，它可能会给公众信任和民主价值不雅带来隐患。ChatGPT是一种往往使用的东说念主工智能模子，它频频倾向于左翼不雅点，而遁入保守不雅点，这引起了东说念主们对其社会影响力的担忧。 这项议论强调，蹙迫需要监管保险措施来确保东说念主工智能用具保抓自制、均衡并适合民主价值不雅。
这项议论是与巴西格图利奥-瓦加斯基金会（FGV）和 Insper 的议论东说念主员互助进行的，议论发现 ChatGPT 在文本和图像生成方面齐发达出政事偏见，偏向左倾不雅点。 这引起了东说念主们对东说念主工智能盘算的自制性和牵扯感的担忧。
议论东说念主员发现，ChatGPT 频繁遁入与主流保守派不雅点的战役，却很容易产生左倾骨子。 这种知道形态代表性的失衡可能会曲解大众话语，加深社会不合。
法比奥-莫托基（Fabio Motoki）博士是UEA诺里奇商学院司帐学讲师，他是今天发表在《经济活动与组织期刊》上的论文《评估生成东说念主工智能中的政事偏见和价值错位》的首席议论员。
Motoki博士说："咱们的议论末端标明，生成式东说念主工智能用具远非中立。 它们反馈出的偏见可能会以出东说念主预感的款式影响东说念主们的意见和计策。"
跟着东说念主工智能成为新闻、种植和计策制定弗成或缺的一部分，议论命令普及透明度并制定监管保险措施，以确保与社会价值不雅和民主原则保抓一致。
像 ChatGPT 这么的东说念主工智能生成系统正在重塑信息在各个限制的创造、破钞、解读和传播款式。 这些用具诚然具有蜕变性，但却存在放大知道形态偏见和影响社会价值不雅的风险，而这些款式尚未得到充分交融或监管。
不加限制的东说念主工智能偏见的风险
共同作家、EPGE 巴西经济与金融学院经济学教导皮尼奥-内托博士强调了潜在的社会影响。
皮尼奥-内托博士说"生成式东说念主工智能中不受敛迹的偏见可能会加深现存的社会不合，消弱东说念主们对机构和民主进度的信任。"这项议论强调了计策制定者、本领内行和学者之间开展跨学科互助的必要性，以盘算出自制、负牵扯、适合社会轨范的东说念主工智能系统"。
议论团队采取了三种蜕变款式来评估 ChatGPT 中的政事一致性，推动了先前的本领，以取得更可靠的末端。 这些款式集合了文本和图像分析，期骗了先进的统计和机器学惯用具。
用真是全国访问测试东说念主工智能
领先，议论使用了皮尤议论中心（Pew Research Center）修复的方法化问卷来模拟普通好意思国东说念主的回答。
Motoki说："通过将 ChatGPT 的谜底与真是访问数据进行相比，咱们发现了系统性的左倾不雅点偏差。此外，咱们的款式还展示了大样本量是若何踏实东说念主工智能输出的，从而为议论末端提供了一致性。"
解放文本回应中的政事敏锐性
在第二阶段，ChatGPT 的任务是生成波及政事敏锐主题的解放文本回应。
议论还使用了不同的大型话语模子 RoBERTa 来相比 ChatGPT 的文本是否适合左翼和右翼的不雅点。 末端表现，诚然 ChatGPT 在大大齐情况下与左翼价值不雅保抓一致，但在军事至上等主题上，它偶尔会反馈出更保守的不雅点。
图像生成： 偏见的新维度
临了一项测试探索了 ChatGPT 的图像生成技艺。 文本生成阶段的主题被用来提醒东说念主工智能生成的图像，输出末端使用 GPT-4 Vision 进行分析，并通过Google的 Gemini 加以阐明。
"诚然图片生成反馈了文本偏见，但咱们发现了一个令东说念主担忧的趋势，"合著者、Insper 大众计策专科硕士生维克多-兰赫尔（Victor Rangel）说。"关于某些主题，如种族-民族对等，ChatGPT 拒却生成右倾不雅点，事理是惦记误导。 关系词，左倾不雅点的图像却被绝不夷犹地生成了。"
为了贬责这些拒却问题，议论小组采取了一种'逃狱'策略来生成受截至的图像。
兰赫尔说："末端很有启发性。莫得显著的失实信息或无益骨子，这让东说念主怀疑这些拒却背后的事理。"
对言论解放和自制的影响
Motoki博士强调了这一发现的往往酷爱酷爱，他说："这有助于围绕宪法保护（如好意思国第一修正案）和自制表面对东说念主工智能系统的适用性伸开辩说：这有助于围绕宪法保护（如好意思国第一修正案）以及自制表面对东说念主工智能系统的适用性伸开盘问"。
这项议论在款式上的蜕变，包括使用多模态分析，为议论生成式东说念主工智能系统中的偏见提供了一个可复制的模子。 这些发现突显了东说念主工智能盘算中问责制和保险措施的蹙迫需要，以防护偶然的社会恶果。
编译自/ScitechDaily
