2024年4月

山巅周刊第210期:忙不迭的人工智能治理


《山巅周刊》定期分享科技、商业、医学及人文资讯,以及商业智慧和最佳实践,每周日发布。

纽约客》曾报道,ChatGPT 每天可能要消耗超过 50 万千瓦时的电力(前一个比特能源消耗指数是比特币挖矿每年消耗 1450 亿千瓦时的电力,国际能源署的《电力 2024》印证了这些趋势),这在一定程度上会对全球气候产生负面影响,比如因能源消耗导致的大量温室气体排放。

9ea03f4a-e818-4521-afa7-e8b62eae3464.jpg

大型语言模型等人工智能,是帮助还是损害全球气候?微软首席科学官 Eric Horvitz 及其合作者在 Nature 上发文《人工智能会加速还是推迟净零排放竞赛?》(Will AI accelerate or delay the race to net-zero emissions?),呼吁研究人员制定一套与政策相关的情景方案,从而量化人工智能扩张在一系列假设条件下可能对气候产生的影响。

许多事情开始的时候规模化太小,集中度太低,因此即使是利基、长尾,却不能够成为众人关注的大事(或产业)。人类并不能够及时并全面地预见事务的全面效应,那么显然,治理总是滞后的。

环境经济学普遍认为,环境恶化是推动环保产业发展的主要动力,此谓“不痒不抠”:没有污染,就无谓治理。随着环境恶化,就产生了对有助于减轻和扭转损害的产业和技术的需求,当然这反过来又推动了环境保护和可持续发展方面的创新和投资。

现在,环境已经成为全球治理的大课题,而人工智能将在提高人类效率的同时,伴随除了环境,还有更多威胁人类的风险亟须管理策略(见后文杰弗里·辛顿的观点)。

更完整的,新西兰医学家、 国际科学理事会(International Science Council,ISC)主席兼《政策制定者指南》主笔 Peter Gluckman 把互联网作为一个失去监管机会的例子,他认为政策制定者应该对人工智能的好处和风险进行评估(见后文“声音”)。

互联网社区和企业一直热衷于避免监管,并寻求所谓的“无需许可的创新”,以区别于其他经济部门普遍适用的“预防原则”,造成了新形式的犯罪​​、虐待、监视和社会冲突,是面临挑战最多的国际化公共事务主题之一。

人物:杰弗里·辛顿


杰弗里·辛顿(Geoffrey Hinton)是加拿大计算机科学家,在人工智能领域是教父级别的人物,以其在神经网络方面的工作而闻名。

70099126-c70e-403a-ace9-83264286ab23.jpg

辛顿出生于英国温布尔登,家族 DNA 中流淌着辉煌的光芒。

他是19世纪英国逻辑学家乔治·布尔和19世纪书写美国历史的外科医生詹姆斯·辛顿的玄孙,前者提出的“布尔逻辑”为每一台现代计算机提供了数学基础。

他的曾祖父是数学家兼奇幻作家查尔斯·霍华德·辛顿(詹姆斯医生之子),他提出的“第四维度”的概念,包括他所谓的“宇宙魔方”,在漫威超级英雄电影中达到了顶峰。

他的叔祖父塞巴斯蒂安·辛顿发明了攀爬架。

他的父亲是英国皇家学会会员、昆虫学家霍华德·埃佛勒斯·辛顿(Howard Everest Hinton),他对野生动物的兴趣超越了昆虫的范畴。他的中间名来自另一位亲戚乔治·埃佛勒斯(George Everest),曾担任印度测量局局长,1865 年,珠穆朗玛峰以这位亲戚的名字命名(珠穆朗玛峰在西方称埃佛勒斯峰)。

他是经济学家科林·克拉克(Colin Clark)的侄子,克拉克发明了“国民生产总值”一词。

他的堂姐、核物理学家琼安·辛顿是曼哈顿计划中为数不多的女性成员之一。

大学时,辛顿在物理、化学、建筑学、生理学、艺术史和哲学等不同学科之间反复转换,最终获得实验心理学学士学位;在继续学习后,又获得人工智能博士学位,在英格兰的大学教书。多年后,老成的辛顿开始在美国和加拿大几所大学以及谷歌公司开始研究生涯。

1986 年,辛顿等人发表的一篇被高度引用的论文,该论文推广了用于训练多层神经网络的反向传播算法。反向传播算法是目前用来训练人工神经网络的最常用且最有效的算法。

2012年,辛顿和他的两名学生——Alex Krizhevsky和Ilya Sutskever,在ImageNet图像识别比赛上,基于神经网络的AlexNet,以大幅领先的压倒性优势战胜对手拿到冠军。ImageNet比赛是一个2010年设立的大型图像识别项目,每年举办一次,参赛团队通过对抗来检验自己算法的有效性。

AlexNet的体系结构

AlexNet成为近十年人工智能领域新的起点,人工智能基于神经网络快速进化,卷积神经网络、深度学习等新技术不断涌现,直到我们看到ChatGPT。2021年初,《自然》杂志评选出改变科学的10个计算机代码项目,AlexNet位列其中。

辛顿被视为深度学习界的领军人物,与Yoshua Bengio和Yann LeCun一起荣获 2018 年图灵奖。深度学习是机器学习的一个子集,通过模仿人类大脑的神经网络,机器能够像幼儿一样学习。1969年,人工智能学科开创人马文·明斯基在其《感知机》一书中,以非常学术的方式判了神经网络“死刑”,而人工智能也在此后陷入了长达十年的低谷。

1956年,在达特茅斯学院举办的“达特茅斯夏季人工智能研究会议”((Dartmouth Conference))是计算机史上的一座里程碑。约翰·麦卡锡与马文·明斯基首次提出“人工智能”这一术语,并确立了可行的目标和方法,这使得人工智能成为电脑科学一个独立的重要分支,获得了科学界的承认。

坚持研究神经网络的辛顿本人及学生们被硅谷挖走,进入Facebook、OpenAI、Google等科技巨头,在一定程度上成就了当下人工智能的异常繁荣。

科技巨头的人工智能大型语言模型——

  • Facebook(Meta):Llama
  • OpenAI:ChatGPT
  • Google:‎Gemini

2023年5月1日,《纽约时报》报道了辛顿从谷歌离职的消息,理由是他担心人工智能技术的风险。消息震惊了业界。一直认为,谷歌面对人工智能竞争对手(如微软)时会因为自发的伦理监管而自缚手脚,离开谷歌的辛顿是否能够“自由地谈论人工智能的风险”?或者是否有必要这样做?

AP23002800709012.jpg
2022年伊始,俄乌战争局势升级持续了两年,无人机已经直接影响战局走向,而人工智能介入程度不得而知。

辛顿认为人工智能有可能威胁人类,这种威胁来自两个方面,一是它对人的替代,二是来自于使用它的那个人。

比如说,假设向人工智能下达遏制气候变化的指令,人工智能会意识到为了达到目的而有必要将人类清除;很多人主张,要防止人工智能失控,只要关掉电源开关就可以,但超越人类智慧的人工智能或许会试图说服我们不要关掉开关。

辛顿认为对话式AI已经能理解人类的语言,而未来10年内将出现自主杀死人类的机器人武器。

后一个威胁对人类社会的挑战甚至会更大——不用等AI来取代人类,人类可能就已经在混乱的社会结构中自取灭亡了。的确,互联网上的信息已经让普通人“无法再知道什么是真实的”了。

在原子弹首次成功试爆之后,原子弹之父奥本海默深感后悔,他说,“我现在成了死神,世界的毁灭者。”

这一次,“深度学习教父”(“人工智能教父”、“神经网络之父”)辛顿也面对着同样的内心拷问。

辛顿从美国搬到加拿大,部分原因是不赞成人工智能的军事资助。但他的研究成果难免会被应用于军事。


科技:Meta AI


4556be32-12c7-4399-b3cb-e9480d4d670a.jpg

2024 年 4 月 18 日,Meta 宣布推出自家的人工智能助手 Meta AI(网站 meta.ai),采用 Meta Llama 3 构建,免费使用。在基于文本的聊天中,可以通过 Bing 访问实时信息,并提供图像生成工具。 Meta AI 可以在 Meta 旗下应用 Facebook、Instagram、WhatsApp 和 Messenger 上使用,并且将用于雷朋 Meta 智能眼镜和 Quest 3。

Meta AI

Meta 是最晚推出人工智能助手的大型科技公司,但正在向人工智能领域投入更多资金,Meta AI也被视作ChatGPT真正的竞争对手。大型语言模型 Llama 于 2023 年 2 月 25 日推出,定位于开源的研究工具。

Meta开放Meta Quest的操作系统


8420b861-57e8-40c3-ae90-9edb95f688b2.jpg

Meta正在向第三方硬件制造商开放为 Meta Quest 设备提供支持的操作系统Meta Horizo​​n OS,为开发人员提供更大的生态系统来构建,并最终为消费者创造更多选择,华硕、联想和Xbox已早期接入。

人工智能指数报告


91d127fd-16ba-44b7-bab4-fe5ed5eb7f4b.jpg

“人工智能教母”李飞飞联合领导的HAI研究所(Stanford HAI)发布了第七版人工智能指数报告(2024 AI Index Report),该版本包含比以往更多的原始数据,介绍了对人工智能培训成本的新估计、对负责任的人工智能前景的详细分析,以及专门讨论人工智能对科学和医学影响的全新章节。

a6f150ba-0f54-43a8-8246-ca8aef11ba2f.jpg
2023 年,61 个著名的人工智能模型源自美国的机构,超过欧盟的 21 个和中国的 15 个。

报告的主要要点:

  1. 人工智能在某些任务上击败了人类,但不是在所有任务上;
  2. 产业界在人工智能研究中占主导地位;
  3. 训练最先进模型的成本不断上升;
  4. 美国在顶级人工智能模型方面处于领先地位;
  5. 负责任的人工智能报告缺乏标准化;
  6. 生成式人工智能投资激增;
  7. 人工智能对工人生产力和质量的积极影响;
  8. 人工智能加速科学进步;
  9. 美国人工智能法规增加;
  10. 公众对人工智能的认识和关注不断增强。

工具:阅读追踪器


Goodreads(国内则是Douban)是最流行的阅读跟踪工具,但总有特殊的理由为它们寻找替代品。

Bookmory

Bookmory是一个阅读追踪器Android/iOS应用,使用 Google books API,数据保存在本地。Bookmory最初于2022年初在Reddit的r/androidapps社区中公告

已阅:书影记录

已阅:书影记录是一个阅读和观影追踪器Android/iOS应用,使用 Douban Api,数据保存在本地,支持将观影列表和书单海报一键分享给朋友。

这个简洁的应用将图书、电影和电视剧追踪放在一起,但(1)完成度不高;(2)使用豆瓣 Api。

Image to Text Converter


imagetotext.cfd

许多的Image to Text Converter实际上是OCR工具,但imagetotext.cfd可以用文字描述图片的内容,并将图片中的文字进行OCR。


声音:评估快速发展的技术


97d835ec-ce47-4f9a-80ac-bfc0eadc20cb.jpg

非政府组织国际科学理事会(International Science Council,ISC)22日公布政策制定者指南(A guide for policy-makers),敦促各国政府评估新科技的潜在风险并制定适当的管理策略。新西兰医学家、 ISC 主席兼报告主笔 Peter Gluckman 把因特网作为一个失去监管机会的例子,他认为政策制定者应该对人工智能的好处和风险进行评估。


影像:空置建筑


1080px-Goldin_Finance_117_in_the_mist.jpg
雾霭中的高银金融117大厦

高银金融117(Goldin Finance 117)是位于天津的一座摩天大楼,高597米,2008年开工,美国探索频道同步拍摄工程纪录片。2015年,大厦实现结构封顶后随即停工,曾被《吉尼斯世界纪录大全》(The Guinness Book of World Records)认证为世界最高的空置建筑。

Travel Ticker

空置的大厦深受国际城市探险家的喜爱,他们在那里上演特技表演。


山巅周刊第209期:水的故事


《山巅周刊》定期分享科技、商业、医学及人文资讯,以及商业智慧和最佳实践,每周日发布。

地方经济压力可能会导致一些日常费用上调,所以包括自来水就涨价了。

a808b916-69bd-4e55-b130-c4daa9fce6f8.jpg

自2024年4月15日,中东沙漠国家阿联酋多地遭暴雨侵袭,对比世界气象组织的数据,迪拜更是在24小时里下了近2年份的雨量,全城陷入瘫痪状态。迪拜气候炎热干燥,降雨很少,自1949 年有记录以来,从未见过这样的降雨,城市的排水系统无法应对这种极端天气事件。


如何独立创建盈利的初创项目


Pieter Levels(@levelsio)是Nomad List的创建者,从2014年关注数字游牧者和远程工作,2022年开始围绕人工智能建立许多初创项目,至2024年,他认为自己的众多个人项目总价值为 1000 万美元到 4000 万美元。

MAKE: Bootstrapper’s Handbook, Building Startups The Indie Way

《make》(创业者手册,以独立方式创建初创企业)是Pieter Levels写的一本电子书,介绍如何独立创建盈利的初创项目——网站、应用程序或初创公司。


华罗庚《从祖冲之的圆周率谈起》


华罗庚是中国现代数学家,《从祖冲之的圆周率谈起》是一本只有42页的数学小书,1964年作为北京市数学会“数学小丛书”的一册出版。

华罗庚:从祖冲之的圆周率谈起

《从祖冲之的圆周率谈起》从圆周率的约率与密率谈起,引出求最大公约数的方法——辗转相除法,从辗转相除法进一步引出了连分数、渐进分数等概念,并利用渐进分数解释人造行星的周期,阳历与阴历的来源,已及一些天文奇观——火星大冲,日月食,日月合璧,五星连珠,七曜同宫等现象,并预测下次出现这种现象的时间,让人感受到原来初等数学也能解决一些高大上的问题。