如果人工智能拥有了自主意识,科学家怎样才能发现?
去年,聊天机器人ChatGPT背后的公司OpenAI首席科学家伊利亚·苏茨凯弗(Ilya Sutskever)发推文称,一些最先进的人工智能网络可能会 “略有意识”。
许多研究人员表示,人工智能系统尚未达到有意识的地步。但人工智能的进化速度让他们陷入了沉思:我们如何知道人工智能是否产生意识?
为了回答这个问题,一个由19位神经科学家、哲学家和计算机科学家组成的团队提出了一份标准清单,如果符合这些标准,就表明一个系统有很大可能是有意识的。他们于本周早些时候在arXiv预印版库中发布了临时指南,该指南尚未经过同行评审。
合著者之一、位于加利福尼亚州旧金山的AI安全中心的哲学家罗伯特·朗(Robert Long)表示,他们进行这项工作是因为“似乎确实缺乏对人工智能意识进行详细、以经验为基础、深思熟虑的讨论”。
该研究团队表示,无法识别人工智能系统是否有意识,这可能会产生重大的道德影响。该研究的神经科学家和合著者梅根·彼得斯(Megan Peters)表示,如果某个东西被贴上了 “有意识 ”的标签,“那一定会极大地改变我们作为人类对待它的方式。”
朗(Long) 补充说,据他所知,构建先进人工智能系统的公司并没有付出足够的努力来评估这些模型的意识,并制定相应的计划。他说:“尽管听取了一些领先实验室负责人的发言,他们确实表示人工智能意识或者人工智能知觉是值得思考的问题,只是我认为还不够。”
《自然》杂志联系了推动人工智能发展的主要两家科技公司——微软和谷歌。微软的一位发言人称,该公司开发人工智能的核心是以负责任的方式协助人类提高生产力,而不是复制人类智能。
该发言人表示,自从推出GPT-4(ChatGPT公开发布的最新版本)以来,可以明确的是,“我们在探索如何实现人工智能的全部潜力以造福整个社会,这需要新的方法来评估这些人工智能模型的能力”。谷歌则未回应。
在研究人工智能意识时,面临的一个挑战是定义什么是意识。彼得斯表示,为了报告的目的,研究人员将重点放在了“现象意识”上,也就是主观体验。即存在于人、动物或人工智能系统系统(如果其中之一被证明具有意识)的感觉。
有许多基于神经科学的理论描述了意识的生物学基础。但哪一种才是 “正确 ”的,目前还没有达成共识。因此,作者采用了一系列理论来创建他们的框架。他们的想法是,如果一个人工智能系统的功能与这些理论的多个方面相匹配,那么它具有意识的可能性就更大。
他们认为,这种评估意识的方法比简单地进行行为测试更好,例如询问ChatGPT是否有意识,或者对其进行挑战并观察其反应。因为人工智能系统在模仿人类方面已经取得了令人难以置信的进展。
英国苏塞克斯大学意识科学中心主任、神经科学家阿尼尔-塞思(Anil Seth)的认为,该团队所采用的理论严密的方法是一个不错的选择。然而,他表示,“我们还需要更精确、经过充分测试的意识理论。”
为了制定他们的标准,作者假设意识与系统如何处理信息有关,而不管它们是由神经元、计算机芯片还是其他材料构成。这种方法被称为计算功能主义。他们还假设,以神经科学为基础的意识理论可以应用于人工智能,这些理论是通过对人类和动物的大脑扫描和其他技术研究而得出。
在这些假设的基础上,团队选择了其中的六种理论,并从中提取了一系列意识指标。
其中之一是全局工作空间理论,它声称人类和其他动物使用许多专门的系统(也称为模块)来执行诸如视觉和听觉等认知任务。这些模块独立但并行地工作,并整合成一个单一系统来共享信息。
朗(Long) 表示,"通过观察系统的架构以及信息在其中的流动方式",人们就能评估某个特定的人工智能系统是否显示了这一理论所衍生的指标。
塞思(Seth)对该团队的提案印象深刻。他表示:“它非常深思熟虑,没有夸夸其谈,并且清楚地表明其假设。”尽管我不同意其中一些假设,但这完全没关系,因为有可能是我错了。"
作者表示,该论文远未对如何评估具有意识的人工智能系统做出最终结论,他们希望其他研究人员能够帮助完善他们的方法论。但这些标准已经可以应用于现有的人工智能系统。
例如,报告对ChatGPT等大型语言模型进行了评估,发现这类系统可以说具有与全局工作空间理论相关的一些意识指标。不过,这项工作并未暗示任何现有的人工智能系统是意识的强有力候选者,至少目前还没有。
比推快讯
更多 >>- 以太坊 NFT 4 月份销售额 2.41 亿美元,为2023 年 10 月以来最低
- Jito 成为 Solana 上TVL最大的协议, 达 14 亿美元
- 摩根大通:加密市场抛售是由散户投资者推动的
- USDC Treasury新增铸造5000万枚USDC
- 一巨鲸以0.051美元价格购买193万枚SC,SC 上涨约 200%
- Coinbase国际交易所将增加对 Arweave、Hedera 和 Theta 永续合约的支持
- 某以太坊ICO参与者在休眠8.8年后转出1,960枚ETH,价值587万美元
- 今日美国9只现货比特币ETF净减持8107枚BTC,约4.7亿美元
- 法国巴黎银行持有约4.1万美元的贝莱德现货比特币ETF敞口
- RWA 平台 Untangled 在 Celo 上开设其首个 USDC 借贷池
- MoonPay 集成 PayPal,允许美国用户通过 PayPal 买卖 110 多种加密货币
- RWA市场Ironlight完成1200万美元的融资,拟在美SEC注册
- 截至4月1日Yield Guild Games财库持有资产总规模约6700万美元
- 彭博ETF分析师:需要重新调整对香港虚拟资产ETF市场的看法
比推专栏
更多 >>- 每月动态 | Web3 安全事件总损失约 9081 万美元
- 脱水大字报:牛市行情或延迟类似2016年
- 矿工日收入突破亿创纪录,比特币符文能否接力铭文?
- 获比特大陆投资且被币安首个接入的BTC L2项目BEVM有何亮点?
- 为什么这轮牛市无法复制 2021 年的山寨季?
- 独家!种子轮融资200万美金+AI叙事的项目
- IOSG Weekly Brief|MKR的涅槃重生:新公链和RWA稳定币与Spark借贷独角兽 #223
- Kusama 上的 Coretime 交易已开始,平行链时代谢幕
- 100亿美元开发投资,红杉资本入局,特斯拉要搞波大的…
- Chainlink Q1产品更新;CCIP正式进入全面可用阶段;Consensus2024来啦|Chainlink 周报
观点
项目
比推热门文章
- 摩根大通:加密市场抛售是由散户投资者推动的
- USDC Treasury新增铸造5000万枚USDC
- 一巨鲸以0.051美元价格购买193万枚SC,SC 上涨约 200%
- Coinbase国际交易所将增加对 Arweave、Hedera 和 Theta 永续合约的支持
- 某以太坊ICO参与者在休眠8.8年后转出1,960枚ETH,价值587万美元
- 今日美国9只现货比特币ETF净减持8107枚BTC,约4.7亿美元
- 法国巴黎银行持有约4.1万美元的贝莱德现货比特币ETF敞口
- RWA 平台 Untangled 在 Celo 上开设其首个 USDC 借贷池
- MoonPay 集成 PayPal,允许美国用户通过 PayPal 买卖 110 多种加密货币
- RWA市场Ironlight完成1200万美元的融资,拟在美SEC注册