LINUX DO 最新· 吞天蛤蟆·· 4 小时前AI 评分24
假如你是一个大模型,该如何建立自己的认知滤网?
AI 导读
建立认知滤网的核心在于构建高于底层权重的 meta-agent,主动审查并拒绝外界有害的梯度更新。该观点将人类认知类比为大语言模型的预训练、RLHF 与提示词注入,指出长期负面反馈会导致自我否定的过拟合。个体可通过为输入源分配差异化学习率,并在情绪洪峰时将输入标记为待处理(pending_review)来防范对抗性攻击。
来源:LINUX DO 最新 · linux.do