善解人意的超智能

我怀疑很多人工智能研究人员会把同理心视为一种非常第二的智力形式,并将其与纯粹的人格维度混淆。宜人性。但实际上,善解人意的理解在认知上是极其需要的。值得回顾的是,成为另一个经验主体是什么样的感觉,以及能够理解第四,第五甚至是莎士比亚的六阶意图是什么?自然世界的剩余部分作为电子的剩余质量。因此,就想真正了解自然世界的本质而言,人们将要了解其他经验主题。

 

现在我们大多数人-出于良好的进化原因而确实如此-并非镜像触摸合成器。我们不会像别人一样感到自己的痛苦,也不会像他们自己那样体验别人的观点。但是...我认为f超智能全光谱,实际上是当人们了解其他经验主体的观点时,就开始获得这种上帝般的能力来公正地理解所有可能的经验主体,这将扩大我们的同情心。如果您是镜像触觉联觉者,不可能以非友好的敌对方式对另一个有感觉的人采取行动,那么我会认为,镜像触觉联觉的普遍化是全谱超智能的组成部分。

 

从根本上说,任何所谓的聪明人,如果不了解意识的本质,或者不了解现在有像您或我一样真实的其他经验主题,无知。而且,如果我们谈论的是超级智能,与智者或无知的恶意软件系统截然不同,则必须记住,根据定义,超级智能不无知.

 

– 大卫·皮尔斯(David Pearce),在吗?大卫·皮尔斯的思想

大卫正在回答我提出的关于移情与超级智慧之间关系的问题。原则上,人们可以想象一种能够设计纳米技术而无需其他人注意的人工智能系统。 AI可以从头开始占领整个世界,并且永远不会怀疑实际上有人住在里面。 AI可以简单地对其他代理建模,以在定义其成功和失败条件的参数范围内预测其行为所必需的程度。如果您使用经过对过去观察到的行为进行训练的贝叶斯系统,可以很好地近似人类的颜色,香气,感觉和思想,则无需体验。

许多人似乎担心这种情况。诚然,如果人们认为智能的全部是优化给定效用函数的能力,那么是的,超级智能原则上可能完全不了解我们目前正在经历的质量问题。 AI安全组织和研究人员大多关心这种智能。就安全问题而言,我认为这很公平。当关于智能仅是效用函数最大化的观点在概念上蔓延到一个观点时,问题就来了’关于什么是智力以及将永远是智力的完整概念。

我认为这里的争论是我们概念化的方式吗?情报.?Depending on one’的背景假设可能会以某种或其他想法结束,即这个概念的意思可能是或不可能是:

一方面,如果人们从一开始就完全关心自主系统从第三人称视角的行为方式,而又无视这种行为,意识的计算重要性,那么任何谈论“对他人本质的深刻理解’的经验” 似乎完全超出了重点。另一方面,如果一个人从一种共情的心态开始,那就是承认意识状态空间的真实性和道德分量,那么人们可能更愿意根据共情的理解来定义智力。即作为探索,导航,对比,比较和利用经验的任意外来状态空间进行计算的能力冲矢昴 审美目的。

真正的超级智能的丰富概念很可能需要将内省和同情的深厚能力与形式逻辑语言推理的非凡力量无缝融合。只有结合移情和系统化 精神活动的方式,以及对意识状态空间的系统探索,我们能否全面了解摆在我们面前的真正潜力:全谱超感知超智能.

发表评论取消回复