小红书成立hi lab：用人文训练塑造AI价值观与一致性

小红书将其大模型技术团队升级为「hi lab」，并组建「AI人文训练师」团队，专注于通过后训练提升AI的人文素养和一致性表现。去年推出的AI应用「点点」已具备聊天和搜索功能，但在实际应用中暴露出“一致性”问题。为此，小红书采用独特的训练方法，邀请跨学科专家参与边界性问题讨论，以深化AI价值观训练。同时，小红书与复旦大学合作成立「AI人文人才训练营」，推动「AI+人文」复合型人才培养，力求让AI成为更自然且有益的人类伙伴。
来源：https://tech.ifeng.com/c/8jhJKa84kaz