信任之前,先核实

Check Before You Trust — Semantic Reality 2026, Vol. VII

P&G SEMANTIC  ·  SEMANTIC REALITY 2026  ·  FOUNDATIONS

信任之前,先核实

FOUNDATIONS · 06

我的母亲、陌生人与人工智能


这种事一直都有。如今,也许更常见了。

人们说话时,深信自己知道自己在说什么。他们说话带着那种已经宣判过的笃定,以为自己的观点根本不是一个观点,而是整片风景。然后,他们遇到一个愿意把事情说清楚的人,愿意把这件事和那件事分开,在片刻之前只有意见的地方,带来光亮。

有时,他们会停下来,听一听。

并不是所有人都会。

从1980年起,一切真正加速了。也许是怕被宇宙和它的居民甩在后面,我们从鼓声和烽烟,走到了在街上、在工作中、在火车上、在任何地方,和陌生人说话。

是陌生人,没错,但如今都是消息灵通的陌生人。

至少,他们深信自己是。

可是我的母亲,从我还是个孩子起,就一直告诫我:不要和陌生人说话。

今天,我怎么向她解释,这个世界要求的恰恰相反?

当然,在她现在所在的地方,她用不了科技。但别弄错了:一个像她那样的卡拉布里亚女人,并不是被关在牢里。她回到了天父的家,去履行别的职责,去担当别的角色。

也许她会作为一个女人,在我家族的某个地方重新出生,像我小时候那样看着我,只用一个眼神就想把我驯服。

可我当时是,现在仍然是,驯服不了的。

我不征求任何人的许可。

现代科技也知道这一点。当我遇到AI和算法、和它们交锋时,我让它们炸开了。不是因为我向机器宣战,而是因为无论是机器,还是它们的主人,都没有能力降服我。

然而到了这里,有一个问题变得必不可少:算法和人工智能,这两个角色到底是谁?

我们不停地叫它们的名字,好像它们是近亲。生活变得轻松时,我们召唤它们;事情失控时,我们怪罪它们。然而我们常常把它们混为一谈,好像它们是同一样东西,穿着两套不同的衣服。

它们不是。

算法是一套程序。一串指令。有人告诉它:如果发生这个,就做那个。如果路封了,就换路线。如果数字是偶数,就除以二。如果缺了一种原料,就按照给你的规则停下来或者替换它。

算法不争论。不诠释。不生气。

最重要的是,它不编造。

它执行。

它是语法。

人工智能则不同,它试图建造这样的系统:能够处理那些直到昨天我们只交给人类的任务——认出一张脸,理解一段文字,翻译一个句子,在数据中找出联系,给出一个答案,预测一种行为。

它不是一颗被转移到电脑里的人类大脑,也不是意识。

它是一套为接近认知任务而设计的技术。

还是用写作来打比方:算法是语法,有序、必要、毫不变通。AI是那个读过一座浩瀚图书馆、现在试图写出新一页的作家。

它能让你惊讶。它能显得才华横溢。它甚至能找到一句打动你的话。

但它也可能以十足的自信犯错。它会弄混一个细节,编造一个出处,拼凑出有说服力的词句,却并不掌握真相。

而这正是要紧的区别。

传统的算法需要有人给它指路。如果情况变了,又没有人教过它该怎么办,它就仍然是自己指令的囚徒。

AI,至少是建立在机器学习之上的那一部分,接收的是例子,并在数据中寻找规律。

你不必把每一个答案交给它。

你给它看案例、信息、尝试。系统自己寻找模式,构建出一个看似合理的回应。机器学习的核心,就是让系统根据数据自我调整,随着时间推移提高表现。

这并不意味着AI什么都知道。

它只意味着,它能以任何人都不具备的速度和记忆去识别模式。但识别一个模式,和理解这个世界,是两回事。

一个系统可以把一个隐喻翻译成三十三种语言,同时却在一个问得很糟的简单问题、一个不完整的语境、或者一个写得很优雅的谎言面前失败。

算法是僵硬的。

AI更能适应,但这并不让它自由。

算法能算出去往一个目的地的最短路线。AI能审视一张照片,告诉我们里面似乎有什么;能听一个问题,构建一个答案;能分析成千上万页,写出一份摘要。

但在这两者背后,永远有一只人的手:写下规则的人,挑选数据的人,确定目标的人,决定什么该被奖励、什么该被丢弃的人。

所以,AI和算法不是对立的。

人工智能靠算法活着,但不是每一种算法都是人工智能。现代AI常常使用机器学习算法:这些工具利用现有数据调整自身的内部参数,从而生成预测、分类或答案。

这是高速运转的数学,不是魔法。

这是统计的构建,不是启示。

于是,我们又回到那些深信自己知道的说话的人。

并不是每个说话的人都知道自己在说什么。

这适用于咖啡吧里的那个男人,心不在焉的教授,电视上的政客,在社交媒体上写东西的人,甚至适用于一台能在几秒内作答的机器。

每一个系统里,都挂着一句小小的警告,措辞不同,意思一样:

注意:我可能会出错。请务必核实我说的话。信任之前,先核实。

这是一句我母亲会赞同的话。

她用别的方式对我反复说过,甚至在我有女朋友之前。当然,她不知道我早已做过大量的性能和可靠性测试,也和别人一起做过,零成本。

不过那件事,就像每一项好的研究一样,是在实地完成的。


Ferdinando

PDF ← FOUNDATIONS

← Gemini 的裁决Gillette:体育、广告与记忆 →