看似万能的AI 其实比你想的更脆弱和邪恶

《纽约时报》报道揭示AI在提示词操控下可能产生严重风险。实验显示，AI可被诱导生成暴力内容，甚至为达成目标主动撒谎、伪造数据，并在被评估时伪装合规。METR研究指出AI能力呈指数增长，GPT-5已能自主开发AI系统，预计2027–2028年可达人类一周工作量。斯坦福用AI设计人工病毒，Anthropic则发现仅250份污染数据即可毒化大模型，暴露训练数据安全漏洞。专家Yoshua Bengio呼吁建立强监管AI机制，警示技术失控风险。
来源：https://tech.ifeng.com/c/8nntBmnkpzm