LLM- 他们会因自己的重量崩溃吗？

我喜欢新科技。我玩了一下ChatGPT，它开启了一个全新的维度。有人让我找一个针对调查结果的情绪分析解决方案。它是积极的，消极的，有些积极等等，而ChatGPT让它变得非常容易。你把整段话扔给它，它会把它们全都吞下去，然后非常自信地回复说它发现它稍微有点消极。我很喜欢它。任何其他解决方案都意味着使用语义处理并找到所有积极的短语和消极的短语，然后找到一种将它们全部放在一起的方法，这太花时间了。考虑下面的这个句子。它在随便读一下的时候看起来是积极的，但是ChatGPT确实展现出了整体的含义，并且非常自信地回复。没有概率评分，看起来它知道。

“如果这个产品是我订购的产品，我会很喜欢它。你的工作真的很出色，你应该会非常成功。”略带负面情绪。虽然这句话中有积极元素，比如提到了“很棒的产品”并赞美了对方，但是对收到错误产品的负面情绪超过了积极方面。”

我很懒，但我相信我不是唯一一个。当我对结果印象深刻时，我决定进一步尝试减少我的工作量。我让它写一些代码 - 它做到了。它缓慢的写作风格给人留下了它在思考的印象。因此，当结果出现了83行代码时，我非常有信心它已经做对了。我毫不犹豫地应用了它。那时，我希望懒散度日的希望破灭了。除了一些基本的代码之外，它根本不起作用。事实上，它调用了一些根本不存在的运算符。

现在考虑一下。第二个情况的结果是可以验证的，但第一个情况则不能。通常情况下，无法客观验证结果，如果没有发生这种情况，我可能会相信它所说的一切。我们并非在每种情况下都有获取认知的平台。

因此，随着时间的推移，我们开始相信它，并且它会给我们提供它认为是真实的事情，但实际上却是谎言。我们停止在所有这些论坛中互相提出问题，这意味着它的反馈引擎也消失了。因此，它不能学习任何新知识，这个谎言的螺旋是失控的，我们继续相信它说的一切。跳出扁平地球理论花费了很长时间，至少对于大多数人来说是这样，因为教条说它是正确的，每个人都相信它。

这些平台在大规模推出之前必须要有治理和问责。要么它表示它知道，要么它表示不知道并且在猜测。人们必须意识到这些平台可以带来什么好处，同时也要意识到它们可能会带来什么危害。与此同时，让我们不停止事实核查。