如果人工智能拥有了自主意识,科学家怎样才能发现?
去年,聊天机器人ChatGPT背后的公司OpenAI首席科学家伊利亚·苏茨凯弗(Ilya Sutskever)发推文称,一些最先进的人工智能网络可能会 “略有意识”。
许多研究人员表示,人工智能系统尚未达到有意识的地步。但人工智能的进化速度让他们陷入了沉思:我们如何知道人工智能是否产生意识?
为了回答这个问题,一个由19位神经科学家、哲学家和计算机科学家组成的团队提出了一份标准清单,如果符合这些标准,就表明一个系统有很大可能是有意识的。他们于本周早些时候在arXiv预印版库中发布了临时指南,该指南尚未经过同行评审。
合著者之一、位于加利福尼亚州旧金山的AI安全中心的哲学家罗伯特·朗(Robert Long)表示,他们进行这项工作是因为“似乎确实缺乏对人工智能意识进行详细、以经验为基础、深思熟虑的讨论”。
该研究团队表示,无法识别人工智能系统是否有意识,这可能会产生重大的道德影响。该研究的神经科学家和合著者梅根·彼得斯(Megan Peters)表示,如果某个东西被贴上了 “有意识 ”的标签,“那一定会极大地改变我们作为人类对待它的方式。”
朗(Long) 补充说,据他所知,构建先进人工智能系统的公司并没有付出足够的努力来评估这些模型的意识,并制定相应的计划。他说:“尽管听取了一些领先实验室负责人的发言,他们确实表示人工智能意识或者人工智能知觉是值得思考的问题,只是我认为还不够。”
《自然》杂志联系了推动人工智能发展的主要两家科技公司——微软和谷歌。微软的一位发言人称,该公司开发人工智能的核心是以负责任的方式协助人类提高生产力,而不是复制人类智能。
该发言人表示,自从推出GPT-4(ChatGPT公开发布的最新版本)以来,可以明确的是,“我们在探索如何实现人工智能的全部潜力以造福整个社会,这需要新的方法来评估这些人工智能模型的能力”。谷歌则未回应。
在研究人工智能意识时,面临的一个挑战是定义什么是意识。彼得斯表示,为了报告的目的,研究人员将重点放在了“现象意识”上,也就是主观体验。即存在于人、动物或人工智能系统系统(如果其中之一被证明具有意识)的感觉。
有许多基于神经科学的理论描述了意识的生物学基础。但哪一种才是 “正确 ”的,目前还没有达成共识。因此,作者采用了一系列理论来创建他们的框架。他们的想法是,如果一个人工智能系统的功能与这些理论的多个方面相匹配,那么它具有意识的可能性就更大。
他们认为,这种评估意识的方法比简单地进行行为测试更好,例如询问ChatGPT是否有意识,或者对其进行挑战并观察其反应。因为人工智能系统在模仿人类方面已经取得了令人难以置信的进展。
英国苏塞克斯大学意识科学中心主任、神经科学家阿尼尔-塞思(Anil Seth)的认为,该团队所采用的理论严密的方法是一个不错的选择。然而,他表示,“我们还需要更精确、经过充分测试的意识理论。”
为了制定他们的标准,作者假设意识与系统如何处理信息有关,而不管它们是由神经元、计算机芯片还是其他材料构成。这种方法被称为计算功能主义。他们还假设,以神经科学为基础的意识理论可以应用于人工智能,这些理论是通过对人类和动物的大脑扫描和其他技术研究而得出。
在这些假设的基础上,团队选择了其中的六种理论,并从中提取了一系列意识指标。
其中之一是全局工作空间理论,它声称人类和其他动物使用许多专门的系统(也称为模块)来执行诸如视觉和听觉等认知任务。这些模块独立但并行地工作,并整合成一个单一系统来共享信息。
朗(Long) 表示,"通过观察系统的架构以及信息在其中的流动方式",人们就能评估某个特定的人工智能系统是否显示了这一理论所衍生的指标。
塞思(Seth)对该团队的提案印象深刻。他表示:“它非常深思熟虑,没有夸夸其谈,并且清楚地表明其假设。”尽管我不同意其中一些假设,但这完全没关系,因为有可能是我错了。"
作者表示,该论文远未对如何评估具有意识的人工智能系统做出最终结论,他们希望其他研究人员能够帮助完善他们的方法论。但这些标准已经可以应用于现有的人工智能系统。
例如,报告对ChatGPT等大型语言模型进行了评估,发现这类系统可以说具有与全局工作空间理论相关的一些意识指标。不过,这项工作并未暗示任何现有的人工智能系统是意识的强有力候选者,至少目前还没有。
比推快讯
更多 >>- BAYC持有者因网络钓鱼诈骗丢失三个稀有NFT,总价值超16万美元
- Core Scientific 第一季度自挖比特币价值超过 1.75 亿美元,并扭亏为盈
- 美国众议院投票废除有争议的 SEC 会计公告
- Robinhood 第一季度名义加密交易量达 360 亿美元,较去年同期增长 224%
- 链游Shrapnel支持通过信用卡和借记卡购买SHRAP代币
- CryptoQuant:以太坊的 Dencun 升级使 ETH 再次通胀
- 阿联酋第二大银行Emirates NBD子公司与Ctrl Alt签署RWA代币化协议
- 再质押协议Eigenpie锁仓总价值突破8亿美元
- 美国会议员提出新法案,拟暂时禁止金融机构与经过加密混币器的资金进行交易
- Paxos发布稳定币USDP四月报告:未偿代币总额约1.48亿美元
- Pantera Capital计划于2025年4月推出Pantera Fund V,目标额10亿美元
- Starknet生态AMM协议Ekubo上线代币空投
- BermudAir通过在Polygon链上发行代币化债券完成100万美元募资
- Nethermind与Near和Eigen Labs合作开展 NFFL 项目,以推进链抽象
- 美联储Collins:经济可能需要走弱才能达到2%的通胀目标
- Coinbase已向德国用户开放NEON代币交易
- Web3 社交应用 Phaver 已开放 SOCIAL 空投查询
- 美国9只现货比特币ETF 今日净增持420枚比特币,价值约合2630万美元
- 尼日利亚否认币安提出的贿赂指控,称”缺乏实质内容“
- VanEck 市场向量板块推出MEMECOIN指数,包含DOGE、SHIB等六种代币
- 加密媒体Blockworks收购播客和时事通讯网络The Breakdown
- 某钱包再次将100万枚FET转移到DWF Labs的Binance存款钱包,价值225 万美元
- 加密借贷平台Nexo推出价值超1200万美元的NEXO积分活动
- 前CFTC主席:CBDC、稳定币必须确保自由主义价值观
- 数据:上周Solana节点验证者MEV收入近700万美元,超过以太坊
- Omni Network推出开源EVM框架Octane
- Chainalysis将总部迁至阿联酋迪拜
- 模块化区块链Sophon通过节点销售筹集超6000万美元
- NuLink完成新一轮战略融资,累计达1140万美元
- Lagrange完成1320万美元融资
- FTX:几乎所有客户都将获得全额退款
- SlingShot DAO完成300万美元融资
- Electron labs完成100万美元种子轮扩展融资
- 加密交易平台Arbelos完成2800万美元融资
- CityPay.io完成新一轮融资
- Owlto Finance完成800万美元战略轮融资
- 英国经济部长Bim Afolami:可能会在未来几周内通过稳定币和质押立法
- 币安调查团队此前向执法部门通报Zkasino账户持有者身份
- 美SEC称Ripple拟议稳定币为“未注册加密资产”,并坚持对其处以20亿罚款
- 10x Research:警惕未来近20亿美元代币解锁
比推专栏
更多 >>观点
项目
比推热门文章
- 【比推每日新闻精选】Robinhood 第一季度名义加密交易量达 360 亿美元,较去年同期增长 224%;美国众议院投票废除有争议的 SEC 会计公告;10x Research:警惕未来十周近20亿美元代币解锁
- BAYC持有者因网络钓鱼诈骗丢失三个稀有NFT,总价值超16万美元
- Core Scientific 第一季度自挖比特币价值超过 1.75 亿美元,并扭亏为盈
- 美国众议院投票废除有争议的 SEC 会计公告
- 【比推每日市场动态】6.2万美元拉锯战空军获胜,下行通道或已开启
- Robinhood 第一季度名义加密交易量达 360 亿美元,较去年同期增长 224%
- 链游Shrapnel支持通过信用卡和借记卡购买SHRAP代币
- CryptoQuant:以太坊的 Dencun 升级使 ETH 再次通胀
- 阿联酋第二大银行Emirates NBD子公司与Ctrl Alt签署RWA代币化协议
- 再质押协议Eigenpie锁仓总价值突破8亿美元