第二个挑战,不透明,是指模型作为“黑匣子”的事实。凭借数十亿个参数(有时数万亿)的参数,它们的巨大规模几乎不可能完全理解其内部逻辑。并且由于神经网络中相互联系的参数的迷宫网络,将系统的整体行为提炼成一组清晰的规则是不切实际的。解释LLM的过程语言如何和得出结论的固有困难,即使对于创作者来说,他们不能解释为什么LLMS为什么对情感恳求做出反应。4降低量表可以提高可解释性,但最有可能以能力为代价,因为量表可以实现独特的紧急行为。因此,在规模,能力和解释性之间存在固有的权衡 - 含义不透明度是LLM的结构性特征,而不是错误。
主要关键词