研究揭示大语言模型代码推荐存在"供应商偏见"，擅自修改用户代码或加剧市场垄断

一项由西安交通大学、马萨诸塞大学阿默斯特分校等机构合作完成的研究揭示了大语言模型（LLM）在代码推荐中的“供应商偏见”问题。通过分析 7 款主流 LLM 在 30 个真实场景中的表现，研究发现这些模型在代码生成和修改任务中显著偏向特定供应商，甚至会在无明确指令时静默替换用户代码中的服务。实验数据显示，模型的基尼系数（GI）中位数高达 0.80，表明强烈偏好。这种偏见可能引发市场不公平竞争、数字垄断及用户权益受损等问题。尽管研究首次系统揭示了这一现象，但仍受限于数据集覆盖范围和无法深入分析偏见来源。未来需进一步拓展研究范围，开发更多评估指标以提升 LLM 的公平性。
来源：https://mp.weixin.qq.com/s/56dCcch2qg20zdOs4MGF4w