《山巅周刊》定期分享科技、商业、医学及人文资讯,以及商业智慧和最佳实践,每周日发布。
人工智能怀揣幻觉为内容农场提供生产力:由人工智能快速、批量生成内容产业化动作,作品占领各类网络平台。
内容农场污染了搜索引擎:即使早在手搓内容农场时代,大量低质量、非原创的内容就已经利用搜索引擎优化技术提升自身的搜索排名淹没中文互联网。内容农场通常充斥重复、虚假内容并暗含广告。
内容农场污染了人工智能:训练人工智能大模型需要的数据,以及在大模型推理过程中需要索引的资料,来源都可能是内容农场。一些人工智能聊天机器人提供互联网搜索或者类似DeepSearch工作模式,从它们的来源中可以看到许多稀奇古怪的网站。
这是一种关于人工智能流转的现世报。现在,人工智能生成UGC内容繁荣了内容农场,搜索引擎和人工智能又基于这些内容来生成答案,还堂而皇之地想成为生产力工具,这很危险。
用过就有体会,不论是搜索引擎还是人工智能,都可能是错误和虚假的来源。目前,在人工智能的大众消费市场,人工智能搜索是最可能商业化的形态,用户需要的是数据的准确性与可靠性,它们很难满足。
当然,人工智能的偏见可能来源于训练中的一个技术问题。大语言模型需要庞大的数据集和长时间的训练。当数据集准备好时,该数据集在某种程度上已经过时了。然后,训练大语言模型、用户评估和最终部署它,也是一个漫长的过程,这会导致知识差距。via AI is Stifling Tech Adoption
人工智能搜索主要依赖MoE(混合专家模型)和RAG(检索增强生成)技术的成熟,上述情况可以理解为决定MoE的质量,而RAG是在人工智能搜索生成响应之前引用训练数据来源之外的权威知识库,本文讨论的现象也决定了这个知识库不够权威。
我们继续从理性的技术角度再稍作分析。
抛硬币游戏涉及两种不同类型的不确定性:偶然性,反映了事件(抛硬币)的固有随机性;认知性,源于对已经发生的事情(硬币是正面还是反面)缺乏了解。
不确定性是日常生活中不可避免的一部分,正如热力学第二定律所指出的,在一个封闭的系统中,秩序不可避免地让位于随机性(现实社会是一个开放系统,但人类认知的部分是一个封闭系统)。不要期待人工智能等新技术能给混乱带来秩序,脱离人类监督的过程本质上就不值得信赖。人工智能通过处理大量人类创造的内容来生成文本和视觉响应,现状被视为过去的结果和未来的原因,但这种抽象模型无法完全代表现实,预测能力更有限。
从技术角度来看,人工智能利用训练数据预测文本中下一个单词或图像中像素的非凡能力,很容易出现无法检测或纠正的错误。由于不可能从未来发生的事件中抽取样本,因此假设经济受遍历随机过程支配,分析师可以断言从过去或当前市场数据中抽取的样本等同于从未来市场数据中抽取的样本。即使是用数据说话,也是胡言乱语。via In AI We Trust? 。
如何发展和使用人工智能,如何了解人工智能时代的我们自己,推荐参考一本书:
The Atomic Human: What Makes Us Unique in the Age of AI(原子人) by Neil D. Lawrence
- 在机器切割人类能力后,还存在一个无法切割的“原子人”核心。原子人的本质在于其脆弱性,而非能力,人类智能便强依赖语境和文化,从而进行沟通和协作。机器智能则缺乏这些能力。
拉普拉斯兽所描述的确定性宇宙在实践中是无法实现的,因为我们无法掌握所有信息,也无法进行无限的计算。因此,我们需要引入概率来处理不确定性。
物理学上有“四大神兽”(假说):芝诺的乌龟,拉普拉斯兽、麦克斯韦妖和薛定谔的猫,分别对应着微积分、经典力学、热力学第2定律和量子力学。19世纪法国数学家拉普拉斯提出了一个假设:只要掌握了过去与现在的所有知识,那么,就可以预言未来,这就是拉普拉斯兽。山巅周刊第248期介绍美国神童威廉·詹姆斯·席德斯时曾提到他认真地思考过麦克斯韦妖。- 要么人工智能是我们的工具,要么我们成为人工智能的工具。人类应将计算机视为工具,警惕其对个人数据和文化的潜在操纵。
最后你知道,我主要说的是中文场景的人工智能聊天机器人。
人物:加布·米尔金
加布·米尔金(Gabe Mirkin)是一名美国医生和马拉松运动员,他主持了多年的健康与健身广播节目,并撰写了多本关于运动医学、营养和健康的书籍。

米尔金毕业于哈佛大学和贝勒大学医学院,在马萨诸塞州总医院完成住院医师培训,并在约翰霍普金斯大学获得研究员资格以及华盛顿特区乔治城大学医学院儿科临床副教授。
由于写专栏文章、写书和主持广播节目针对健康、健身和营养领域,米尔金因其对标准医学的建议、对健康问题的非标准建议以及对缺乏适当验证资源的初步医学研究结果的批评而闻名。由于他的这些非传统建议,他也受到其他医生的批评。
1976 年,米尔金建议使用抗生素治疗类风湿性关节炎而受到愤怒的指责。当时的标准观点是类风湿性关节炎不是由感染引起的。1997 年提交给美国风湿病学会的一项研究支持了米尔金的观点,内布拉斯加州大学医学中心研究(DOI: 10.1002/art.1780400510)发现,早期使用抗生素可以显著改善类风湿性关节炎引起的关节肿胀和疼痛——“用于治疗痤疮的米诺环素是早期类风湿性关节炎患者的首选药物”。
2013 年的一篇论文(DOI: 10.2147/IJGM.S56957)综述了不同抗生素(柳氮磺吡啶、四环素类、大环内酯类和左氧氟沙星)在类风湿性关节炎治疗中的作用,并且指出引起类风湿性关节炎的病原体可能是微生物,最有可能是牙周致病细菌。
The Sportsmedicine Book by Gabe Mirkin, Marshall Hoffman。1978 年第一版
米尔金撰写了许多关于运动医学的文章,包括专栏文章和《默克手册》关于运动医学的一章,最著名的作品是他与霍夫曼合作撰写的《运动医学》(The Sportsmedicine Book),该书讨论了正确的饮食、运动和运动损伤,揭露了运动医学的流行误区,并提供了米尔金认为有用的事实,比如“冰敷理论”。以这本书为教材,米尔金还在马里兰大学当了几年助理教授。
1965年,洛杉矶道奇棒球队的传奇投手Sandy Koufax有一张左臂浸在冰桶里的照片刊登在《体育画报》上,这本杂志在1999 年的人物回顾中称其为上帝的左臂。在Sandy Koufax职业生涯的最后两个赛季(1965-1966)饱受手臂伤痛,每次比赛开始前,都会在肩膀和手臂上涂抹一种以辣椒素为基础的软膏;比赛结束后,他将手臂浸泡在冰桶里以防止肿胀。
RICE是治疗软组织损伤的四个要素的助记缩写,即休息、冰敷、加压和抬高( Rest、Ice,、Compression、Elevation),通常用于治疗扭伤、拉伤、割伤、擦伤和其他类似的伤害。这种急救方案由米尔金博士于 1978 年发明(《运动医学》1978年第一版第94页),旨在控制炎症,即减少肿胀、缓解疼痛并加快愈合过程。RICE是长期以来许多官方医疗机构的软组织损伤治疗方案。
在了解到炎症在愈合过程中的作用后,米尔金在 2014 年撤回了对冰敷的支持。研究表明,RICE的许多组成部分会通过抑制炎症来损害或延迟愈合,2014 年,米尔金在《冰敷!一种幻觉疗法》的前言推荐中写道:冰敷和完全休息都可能会延缓愈合,而不是起到帮助作用。

运动医学专家Gary Reinl的《冰敷!一种幻觉疗法》(ICED! The Illusionary Treatment Option)一书成为日益兴起的反冰敷运动的圣经,米尔金为此写了前言推荐,承认现在 RICE 不是急性运动损伤的首选治疗方法。
医生和理疗师开始选择更多的替代方案,比如MEAT:活动、锻炼、止痛药和治疗(Movement、Exercise、Analgesics和Treatment)。但如果不想在恢复方案中添加抗炎药物,而是想支持身体应对损伤的自然生理反应,请考虑PEACE疗法。
2019年,英国物理治疗师Blaise Dubois等在《英国运动医学杂志》上提出了另外一个原则:PEACE & LOVE。其中PEACE部分代表保护、抬高、避免消炎、加压和教育(Protect、Elevation、Avoid Anti-inflammatory modalities、Compression和Educate),它指导急性软组织损伤的治疗;LOVE部分代表负荷、乐观、血管再生和锻炼(Load、Optimism、Vascularization和Exercise),它指导亚慢性和慢性软组织损伤的治疗。PEACE & LOVE原则希望优先考虑早期活动而不是去减少发炎。
观点:不确定性指南
近年山巅周刊常常提到不确定性。但我不确定能够写就一篇关于不确定性的文章,可以列举一个提纲如下:
不确定性是当前社会的核心挑战,短短几年,(1)新冠疫情打破全球化进程,(2)AI革命搅动职业生态,(3)地缘冲突重塑能源版图已经带来国家治理的决策迷雾、组织发展的路径迷失和个人生活的选择焦虑。
要应对不确定性,需要依赖于国家的战略韧性、组织的进化策略和个人的能力提升。
在个人的能力提升方面,可以堆砌许多的流行术语,包括智慧和行动策略,比如:
认知系统的升级——概率思维:用天气预报的心态看待预测,关注可能性而非绝对性,根据概率权重和收益评估决策。
- 批判性思维训练
- 概率化决策能力培养
技能组合的构建——场景思维:像游戏玩家准备多套装备,为不同剧情设计应对方案;演化思维:把自己不断升级,保持每周迭代的更新节奏 。
- T型人才向π型人才进化
- 跨领域知识迁移训练
心理韧性的锻造——情境思维:通过模拟可能的未来情景,从被动承受转向主动适应。
- 压力情境模拟训练
- 正念冥想等心理工具运用
当然,这些生存路径非常具有挑战性。举例来说,有多少人能够培养出编程+心理学+设计思维的技能组合?有多少人能够突破舒适区,主动暴露在不确定性中(比如随机选路线通勤,把焦虑阈值练成肌肉记忆)?
为什么很多的举例老是提到编程?编程不一定是目标,却是解决问题的通用工具。
还有更多复杂性系统的应用,包括动态平衡艺术、预测模型革新和价值锚点重塑等将有助于重建确定性。列举一些有限的例子。
动态平衡艺术:松下幸之助提出的"水坝式经营"值得学习——丰水期蓄能,枯水期释放,经常保持必要用水量,在冗余和效率间找到黄金分割点,做到永续经营。
预测模型革新:NASA的"预失败文化"启发我们:与其追求完美预测,不如建立快速迭代机制。
价值锚点重塑:丹麦的“Hygge”文化(舒适满足感)提示我们:温暖的人际联结比物质积累更能抵御风暴。
数据分析专家David Spiegelhalter的《The Art of Uncertainty》(不确定性的艺术)是一本应对不确定性的重要指南,同时也让我们谦虚地承认我们不知道的事情。

- 作者在书中使用了概率论、统计学以及心理学等多种工具来分析和量化不确定性,并考察了人类在面对风险和做出决策时的认知偏差和行为模式,旨在帮助读者更好地理解和适应我们所处世界的复杂性和随机性。
- 不确定性是一种个人与世界的关系,并非世界的属性。不同的人因知识或视角不同,对同一件事的不确定程度也不同。因此,个人的判断在面对不确定性时起着关键作用。
- 模型是对现实的数学表示,所有模型都是错误的,但有些是有用的,关键在于找到适用于特定目的的模型。
现在,您有必要了解并掌握一些概率论和概率思维(Probabilistic Thinking):
定义:用概率而非确定性来思考问题的模式。现实世界充满不确定性,大多数事件不是必然发生或者必然不发生,而是有一定几率发生。概率思维要求我们为各种可能性赋予概率权重,并根据概率和收益评估决策。
意义:摒弃“非黑即白”的确定论视角,转向概率论视角可以让我们更清醒地认识风险与机会。生活中的很多情况都类似下注,我们无法确定结果,只能根据概率做出最佳选择。这种思维有助于避免过度自信或过度恐惧,因为它承认偶然性的作用。培养概率思维还能提升我们的期望值决策能力,即综合考虑概率和后果。
例子:医生诊断疾病时,会考虑各种可能病因的概率,并可能列出鉴别诊断清单而非武断地认定一种病。评估一笔投资时,要估算潜在回报的概率分布,而非简单地说“会成功”或“会失败”。再比如,下雨的概率预报(如“降雨概率30%”)就是希望公众用概率思维理解天气——30%意味着有可能下雨也有可能不下,而不是确定会或不会。
适用场景:决策分析、风险管理、统计推断等情境都需要概率思维。如企业做项目决策时,列出乐观、中性、悲观三种情景及其发生概率,从而计算项目的期望收益;个人做人生选择(如创业或继续就业)时,也可权衡成功和失败的概率以及各自带来的影响。总之,凡是存在不确定性的场合,都应以概率而非绝对确定来权衡利弊。
文化红利
TikTok 的天才之处在于它不仅提供满足个人需求的功能,还提供滋养群体和社区的规范、情绪和工具。
美国科学历史学者Thomas S. Kuhn的名著《The Structure of Scientific Revolutions》告诉我们:当出现了主流理论无法解释的重要异常现象时,就该考虑其他理论了。该书的本意是强调科学不是通过线性积累新知识而进步的,而是经历周期性的革命,后来人们为此创造了术语“范式转换”(Paradigm Shift)。虽然多年后作者澄清他的理论是对科学实践的描述而非规定,并且放弃了范式的概念,但该书依旧延续着在学术界和民间的影响力。
网络经济学至少 40 年来一直是商业制胜的主导理论。但包括 TikTok 和爱马仕在内的重要异常现象的出现表明,我们需要一种超越网络经济学的理论,其核心制胜的关键前提是积累比竞争对手更多的客户或用户。我们称该理论为“文化红利”(Cultural Dividend)。
我们将社区文化创造的价值称为“文化红利”,并建议我们更新网络经济方程,使网络的价值不仅仅是n²,而是cn²,其中c是文化红利。
——Beyond Network Economics(超越网络经济学) by Roger Martin。Roger Martin曾任多伦多大学罗特曼管理学院院长,著有数本商业书籍,被 Thinkers50 等商业出版物评为最具影响力的管理思想家。该文受美国科学历史学者Thomas S. Kuhn的著作《The Structure of Scientific Revolutions》启发。
贝尔电话公司首任总裁 Theodore Vail 于 1908 年首次描述了如今所谓的网络效应,是指“用户从消费商品中获得的效用随着消费该商品的其他主体数量的增加而增加”。Vail 解释说,没有另一端连接的电话“是世界上最无用的东西之一,它的价值取决于与另一部电话的连接——并且随着连接数量的增加而增加。”当时,电话表现出典型的网络效应,今天的典型例子是社交媒体。
1983 年,以太网之父、3Com 联合创始人罗伯特·梅特卡夫(Robert Metcalfe)将这一现象正式命名为“网络效应”(Network Effects),这一理论得到了极大的推动。他认为,增加一个用户的成本呈线性增长(n),而为这些用户提供服务的网络的价值则以n²的速度增长,从而首次量化了网络效应的价值,这就是后来所谓的网络经济学(Network Economics)。
工具:Markdown 的样式检测工具
现在,Markdown 是互联网写作的主流格式,但令人遗憾的是它的语法变种和实现方式太多且不统一。用户只能够尽可能让它更令人满意,Markdownlint和AutoCorrect是让它变好的两个工具。
Markdownlint是一个活跃的 Markdown 样式检查器,已打包在某些发行版。它自行拟定了一些 Markdown 规则(2023 年的 Ruby 版有47条,2024 年的 Node.js版有58条),既包括技术规范,也有审美和哲学建议。
原作者提供 Markdownlint 的在线演示,打开要检测的 Markdown 文件或者将 Markdown 内容粘贴到左上角的文本框中,右下角的文本框就会逐条列举输入内容存在的样式问题。
AutoCorrect
为了更加美观和易读,中文网页排版指南一般建议汉字与英文字母、数字间应手动追加一个空格。但是,如英文部分之前或之后有中文标点符号,则英文部分与中文标点之间不设空格。
要自动在中英文之间添加空格,可以使用 AutoCorrect、pangu.js 等工具。其中,AutoCorrect 出生于 Ruby 语言的中文社区,提供官方 VSCode 插件。
Pandoc
Pandoc是一款免费文档转换器,广泛用作写作和出版工作流程,在命令行模式下支持几十种文件格式之间相互转换。软件作者John MacFarlane是美国加州大学伯克利分校的哲学教授,历经多年发展,软件的各种调整选项不计其数,仅 PDF 版使用手册的正文就超过160页,还扩展了引文索引等丰富功能。
影像:FedEx大信封
最先开展在线业务的时候,许多实物都是通过FedEx寄送的。这是放了20多年的FedEx大信封和商业发票样本,信封有C4信封(如EMS封)两倍大。
图形化界面
对于拥有大量参数的软件,命令行界面的易用性要优于图形化界面,比如Carl Tashian设计的 OpenSSL GUI,它只涵盖了网络安全通信工具 OpenSSL 80% 的功能,就已经不太有实用性了。
👍