如果人工智能拥有了自主意识,科学家怎样才能发现?
去年,聊天机器人ChatGPT背后的公司OpenAI首席科学家伊利亚·苏茨凯弗(Ilya Sutskever)发推文称,一些最先进的人工智能网络可能会 “略有意识”。
许多研究人员表示,人工智能系统尚未达到有意识的地步。但人工智能的进化速度让他们陷入了沉思:我们如何知道人工智能是否产生意识?
为了回答这个问题,一个由19位神经科学家、哲学家和计算机科学家组成的团队提出了一份标准清单,如果符合这些标准,就表明一个系统有很大可能是有意识的。他们于本周早些时候在arXiv预印版库中发布了临时指南,该指南尚未经过同行评审。
合著者之一、位于加利福尼亚州旧金山的AI安全中心的哲学家罗伯特·朗(Robert Long)表示,他们进行这项工作是因为“似乎确实缺乏对人工智能意识进行详细、以经验为基础、深思熟虑的讨论”。
该研究团队表示,无法识别人工智能系统是否有意识,这可能会产生重大的道德影响。该研究的神经科学家和合著者梅根·彼得斯(Megan Peters)表示,如果某个东西被贴上了 “有意识 ”的标签,“那一定会极大地改变我们作为人类对待它的方式。”
朗(Long) 补充说,据他所知,构建先进人工智能系统的公司并没有付出足够的努力来评估这些模型的意识,并制定相应的计划。他说:“尽管听取了一些领先实验室负责人的发言,他们确实表示人工智能意识或者人工智能知觉是值得思考的问题,只是我认为还不够。”
《自然》杂志联系了推动人工智能发展的主要两家科技公司——微软和谷歌。微软的一位发言人称,该公司开发人工智能的核心是以负责任的方式协助人类提高生产力,而不是复制人类智能。
该发言人表示,自从推出GPT-4(ChatGPT公开发布的最新版本)以来,可以明确的是,“我们在探索如何实现人工智能的全部潜力以造福整个社会,这需要新的方法来评估这些人工智能模型的能力”。谷歌则未回应。
在研究人工智能意识时,面临的一个挑战是定义什么是意识。彼得斯表示,为了报告的目的,研究人员将重点放在了“现象意识”上,也就是主观体验。即存在于人、动物或人工智能系统系统(如果其中之一被证明具有意识)的感觉。
有许多基于神经科学的理论描述了意识的生物学基础。但哪一种才是 “正确 ”的,目前还没有达成共识。因此,作者采用了一系列理论来创建他们的框架。他们的想法是,如果一个人工智能系统的功能与这些理论的多个方面相匹配,那么它具有意识的可能性就更大。
他们认为,这种评估意识的方法比简单地进行行为测试更好,例如询问ChatGPT是否有意识,或者对其进行挑战并观察其反应。因为人工智能系统在模仿人类方面已经取得了令人难以置信的进展。
英国苏塞克斯大学意识科学中心主任、神经科学家阿尼尔-塞思(Anil Seth)的认为,该团队所采用的理论严密的方法是一个不错的选择。然而,他表示,“我们还需要更精确、经过充分测试的意识理论。”
为了制定他们的标准,作者假设意识与系统如何处理信息有关,而不管它们是由神经元、计算机芯片还是其他材料构成。这种方法被称为计算功能主义。他们还假设,以神经科学为基础的意识理论可以应用于人工智能,这些理论是通过对人类和动物的大脑扫描和其他技术研究而得出。
在这些假设的基础上,团队选择了其中的六种理论,并从中提取了一系列意识指标。
其中之一是全局工作空间理论,它声称人类和其他动物使用许多专门的系统(也称为模块)来执行诸如视觉和听觉等认知任务。这些模块独立但并行地工作,并整合成一个单一系统来共享信息。
朗(Long) 表示,"通过观察系统的架构以及信息在其中的流动方式",人们就能评估某个特定的人工智能系统是否显示了这一理论所衍生的指标。
塞思(Seth)对该团队的提案印象深刻。他表示:“它非常深思熟虑,没有夸夸其谈,并且清楚地表明其假设。”尽管我不同意其中一些假设,但这完全没关系,因为有可能是我错了。"
作者表示,该论文远未对如何评估具有意识的人工智能系统做出最终结论,他们希望其他研究人员能够帮助完善他们的方法论。但这些标准已经可以应用于现有的人工智能系统。
例如,报告对ChatGPT等大型语言模型进行了评估,发现这类系统可以说具有与全局工作空间理论相关的一些意识指标。不过,这项工作并未暗示任何现有的人工智能系统是意识的强有力候选者,至少目前还没有。
比推快讯
更多 >>- NFT借贷平台Blend总交易额超60亿美元
- Anchorage Digital向Cumberland DRW转移1000万枚ARB
- Tether CEO:Tether或投入大量资源建立基于Holepunch技术的P2P金融市场终端
- 区块链游戏 4 月份融资额达到 9.9 亿美元,创2021年1月以来新高
- Core基金会推出500万美元基金,以支持创新区块链项目
- Genesis获批以现金和加密货币的形式向客户偿还30亿美元
- 彭博社:多个基金公司预计下周SEC不会批准以太坊现货ETF
- Vitalik Buterin:区块链社区扩展应着眼于更广泛的外部领域
- Syncracy Capital 联创:SOL 到月底可能会达到 200 美元
- 分析师:FET代币可能会突破 4 美元
- 截至第一季度末,Point72持有价值7750万美元的富达现货比特币ETF
- 分析师:5 月份现货比特币 ETF 的资金流入已弥补 4 月份净流出
- Coinbase:宏观环境仍然是加密货币表现的关键驱动因素
- 美国9只现货比特币ETF 今日净增持3,743枚BTC,约合2.51亿美元
- 经 FBI 调查,加密名人 Thomas Sfraga 承认电汇欺诈罪
- 美联储理事Bowman:若通胀停滞或反弹,愿意支持美联储重启加息
- Kraken正在权衡是否在欧盟新规下取消对USDT的支持
- 以太坊二层网络ZkSync暗示将于6月底进行空投
- Web3 focus应用程序Focus Tree完成200万美元种子轮融资,Sfermion 领投
- Coinbase 将在 Solana 网络上添加对Drift Protocol(DRIFT)的支持
- Vitalik Buterin:近期和中期将着重提升以太坊网络的无许可性和去中心化特性
- Blast创始人:推迟空投计划只是因为需要更多时间进行开发
- ETH突破3100美元,日内涨幅达到5.17%
- 比特币突破67000美元,日内涨2.76%
- 美SEC 政策总监 Heather Slavkin Corzo 离职, Corey Klemmer 接任
- 两名中国籍人士因通过加密投资诈骗至少7300万美元在美被捕
- 超 50 家加密行业参与者致信美众议院议长,以支持 FIT21法案
- 截至5月16日贝莱德IBIT持仓超过27.6万枚比特币
- ETH突破3000美元,日内涨幅扩大至5%
- 一巨鲸将3400枚ETH存入Compound,并借出700万枚USDT
比推专栏
更多 >>观点
项目
比推热门文章
- NFT借贷平台Blend总交易额超60亿美元
- Anchorage Digital向Cumberland DRW转移1000万枚ARB
- 【比推一周Web3新闻精选】Millennium Management、Apollo等多家机构Q1持有超 26 亿美元的现货比特币 ETF;鲍威尔重申可能在更长时间内将利率维持在高位;芝商所CME计划推出比特币现货交易
- Tether CEO:Tether或投入大量资源建立基于Holepunch技术的P2P金融市场终端
- 区块链游戏 4 月份融资额达到 9.9 亿美元,创2021年1月以来新高
- Vitalik:改善以太坊网络的无许可和去中心化的近期和中期未来
- 吴说周精选:美国CPI回落、 养老金购买比特币ETF、Lido和Paradigm推EigenLayer竞品与新闻 Top10
- 矿工淘汰赛阶段之后,BTC火箭发射
- 市场沉寂如死水?别急,下一波造富狂潮已暗中涌动!
- Core基金会推出500万美元基金,以支持创新区块链项目