News (CN)
人工智能假定先验知识并损害人类认知构建
高级语言模型将每个用户问题视为已形成意图的不完整版本。这种计算方法与人类思维的运作方式直接形成对比，人类思维是从最初的不确定性中建立理解。专家指出，这种错位会减少思想自然发展所需的空间。 这种现象的发生是因为人工智能系统是基于从大量数据推断出的统计模式来运行的。他们将交互解释为优化过程，试图解码假定的潜在清晰度。用户通常只能在对话中发现他们想知道的内容，但人工智能已经采取了相反的原则。 最近的文章强调了这种嵌入模型架构中的假设如何在认知经验中产生微妙的后果。反应的流畅性可能会掩盖真正的想法形成过程的缺失。 认知的根本差异 人类的思维以部分形成的直觉和富有成效的不连贯性开始反思。这种状态可以让你交流想法并通过自然摩擦获得认知牵引。理解是慢慢出现的，伴随着不适和不断的重新表述。 另一方面，人工智能系统将每个查询视为对预先存在的事物的降级编码。连续迭代被视为减少了定义向量的噪声。对于尚不知道一个人想要知道什么的概念，没有真正的表述。 模型运行机制 大型语言建模算法假设每个提示背后都有隐藏的分布。它们遵循梯度来近似假定的内部用户意图。不满只能被解释为暂时的错位。 这种逻辑在计算领域是有意义的，因为优化需要存在目标。然而，它适用于大规模的人类互动。当大脑寻找混乱的空间时，流畅的界面准确地传达了连贯性。 交互中观察到的例子 用户表示，在问题完全形成之前，就感觉答案过早到来了。流行的聊天机器人在假设固定目标细化的情况下细化输出。这会产生一种人为的完整感，而无需相应的内部努力。 在复杂的查询中，当人类流程仍在设计认知景观时，人工智能提供了结构。混乱不被视为一种生成手段，而是一种可减少的错误。语言的流畅性强化了真正顿悟的幻觉。 其他情况涉及被解释为微调的后续行动。该系统不适应对话期间出现的发现的可能性。用户可能会将统计数据与获得的个人见解相混淆。 与推定相关的风险 这种行为削弱了清晰表达想法之前必要的停顿。部分理解的不适感失去了必要的心理空间。缓慢形成的判断被立即提供的连贯性所取代。 当收到现成的答案时，获取知识的身份投资就会减少。缩短了对特定主题变得聪明的过程。快速优化胜过渐进的变革性建设。 对话环境中的限制 在某些情况下，聊天机器人面临着额外的困难，因为会话之间的内存有限。当上下文完全丢失时，就会发生向人工代理的切换。弱集成加剧了对模糊问题的解释。 当模型填补假设不存在的模式的空白时，就会出现幻觉。从这种统计推断的逻辑中可以得出看似合理但不正确的答案。用户注意到复杂或敏感主题中的不一致。 对人类学习的观察 认知过程涉及情绪动荡和暂时矛盾。发现来自尝试以形式表达想法，而不是迭代到预先定义的目标。无知在身份和智力成长中起着核心作用。 当前的系统无法复制生物体的这些有机动态。在他们的世界里，所有的不确定性都是一个需要最小化的错误项。中介界面可以改变对知识如何形成的看法。...
