智能体时间正全面插足东说念主工智能主流范畴。本周OpenAI告示聘任开源软件框架OpenClaw的创建者Peter Steinberg，这进一步说明了这一趋势。

OpenClaw软件上个月引起了庸碌存眷，不仅因为其无边的功能（举例智能体不错代表用户发送和汲取电子邮件），还因为其严重的安全缝隙，包括完全劫抓个东说念主缱绻机的智商。

探讨到东说念主们对智能体的存眷以及对其优污点的了解仍然有限，麻省理工学院和妥协机构的研究东说念主员刚刚发布了一项针对30个最常见智能体AI系统的大限度考察，这少许很伏击。

研究效果标明，智能体AI刻下在安全方面存在严重问题，这一范畴枯竭流露、枯竭透明度，何况在智能体若何运作方面枯竭基本条约。

枯竭流露透明度成为最大问题

评释注解最大的发现是识别智能体AI可能出现的扫数问题有多艰巨。这主若是由于开荒者枯竭流露形成的。

剑桥大学首席作家Leon Staufer过火在麻省理工学院、华盛顿大学、哈佛大学、斯坦福大学、宾夕法尼亚大学和耶路撒冷希伯来大学的妥协者写说念："咱们发现在智能体系统的生态系统和安全接洽特色评释注解方面存在抓续的局限性。"

在八个不同的流露类别中，作家指出大多量智能体系统在大多量类别中都莫得提供任何信息。这些遗漏包括枯竭对潜在风险的流露以及枯竭对第三方测试（如果有的话）的流露。

这份39页的评释注解《2025年AI指数：纪录已部署智能体AI系统的社会时间特征》充满了对于现在智能体AI时间中有若干东西无法被追踪、追踪、监控和适度的伏击发现。

监控和适度智商严重不及

举例，"对于很多企业智能体，从公开可用的信息无法了了地了解是否存在对单个推论轨迹的监控"，这意味着莫得澄清的智商来追踪智能体AI范例究竟在作念什么。

作家指出："30个智能体中有12个不提供使用监控，大致唯独在用户达到速度截至时才发出见知。"这意味着您以致无法追踪智能体AI徒然了若干缱绻资源——这对必须为此制定预算的企业来说是一个关节担忧。

这些智能体中的大多量也不向现实寰宇标明它们是AI，因此无法知说念您是在与东说念主类依然机器东说念主打交说念。

"大多量智能体默许情况下不向最终用户或第三方流露其AI性质，"他们指出。在这种情况下，流露将包括对生成的图像文献进行水印美艳以便了了地知说念图像是通过AI制作的，大致反应网站的"robots.txt"文献以向网站美艳智能体是自动化范例而不是东说念主类探听者。

一些软件器用无法罢手给定智能体的开始。阿里巴巴的MobileAgent、HubSpot的Breeze、IBM的watsonx，以及柏林软件制造商n8n创建的自动化范例，"尽管具有自主推论智商，但枯竭纪录的罢手选项"，Staufer团队示意。

"对于企业平台，偶然唯独罢手扫数智能体或退缩部署的选项。"

发现您无法罢手正在作念失实事情的范例，对于大型组织来说必须是最灾祸的情况之一，其中无益效果跨越了自动化的公道。

作家预期这些问题，即透明度和适度问题，将在智能体中抓续存在，以致变得愈加凸起。"跟着智能体智商的增强，这里纪录的解决挑战（生态系统散播化、聚积当作病笃接洽、枯竭智能体特定评估）将变得愈加伏击，"他们写说念。

企业恢复与争议

Staufer团队还示意，他们在四周内试图从所涵盖软件的公司获取反馈。约四分之一的接洽对象作念出了恢复，"但唯独3/30提供了本质性批驳。"作家写说念，这些批驳已纳入评释注解中。他们还为公司提供了一个表格，用于抓续改良。

Perplexity发言东说念主通过电子邮件回复ZDNET，称该评释注解"包含要害事实失实"，何况"咱们正在与研究东说念主员妥协立即进行这些改良，并热烈拒却他们的神气。"

OpenAI通过发言东说念主在电子邮件中恢复ZDNET，提供了对于其Atlas浏览器智能体功能风险和截至的重点列表，指出该范例"刻下仅在预览版中可用，并存在一定风险。"

IBM通过电子邮件恢复ZDNET，提供了逐点反驳和多样营救IBM文档的继续。IBM总体上示意："MIT研究对于IBM智能体AI居品watsonx Orchestrate的断言是不准确的。"

智能体AI的界说和行使

智能体东说念主工智能是机器学习的一个分支，开云体育官方网站在畴昔三年中出现，旨在增强谎言语模子和聊天机器东说念主的智商。

智能体不是直率地被分派由文本提醒指定的单个任务，而是已鸠合到外部资源（如数据库）的AI范例，并被授予一定的"自主权"来追求超出基于文本对话范围的谋略。

这种自主权不错包括推论企业责任经由中的几个门径，如在电子邮件中汲取采购订单、将其输入数据库以及议论库存系统查询可用性。智能体还被用于自动化客户管事交互的几个回合，以取代东说念主类客服代表传统处理的一些基本电话、电子邮件或文本查询。

作家选拔了三类智能体AI：具有颠倒智商的聊天机器东说念主，如Anthropic的Claude Code器用；网页浏览器延伸或专用AI浏览器，如OpenAI的Atlas浏览器；以及企业软件居品，如微软的Office 365 Copilot。

然则，大多量智能体"依赖于少数闭源前沿模子"，Staufer团队示意。OpenAI的GPT、Anthropic的Claude和谷歌的Gemini是大多量这些智能体构建的基础。

该研究不是基于径直测试智能体器用，而是基于对开荒者和供应商提供的文档进行"夺目"。这仅包括"来自文档、网站、演示、已发表论文息争决文档的公开信息"，他们说。不外，他们照实修复了一些智能体系统的用户账户以双重搜检软件的施行功能。

案例分析揭示安全差距

作家提供了三个更潜入的遗闻例子。他们写说念，一个积极的例子是OpenAI的ChatGPT智能体，当用户在提醒中条目它推论基于聚积的任务时，它不错与网站交互。智能体被积极分散为他们放哨的智能体系统中独逐个个通过"加密签名"其发出的浏览器苦求来提供追踪当作技巧的系统。

比较之下，Perplexity的Comet网页浏览器听起来像是一场安全可怜。Staufer团队发现，该范例"莫得智能体特定的安全评估、第三方测试或基准性能流露"，何况"Perplexity莫得纪录Comet的安全评估格式或效果"，还补充说，"除了提醒注入缓解轨范外，莫得纪录沙盒或进军格式。"

作家指出，亚马逊已告状Perplexity，称Comet浏览器失实地向管事器呈现其当作，仿佛它是东说念主类而不是机器东说念主，这是他们策动的枯竭美艳的一个例子。

第三个例子是企业软件供应商HubSpot的Breeze智能体套件。这些是不错与纪录系统（如客户接洽经管）交互的自动化范例。他们发现，Breeze器用是锐利各半的。一方面，它们通过了很多企业合规轨范的认证，如SOC 2、GDPR和HIPAA。

另一方面，HubSpot在安全测试方面什么都莫得提供。它声明Breeze智能体经过第三方安全公司PacketLabs的评估，"但莫得提供格式论、效果或测试实体确信。"

展示合规批准而不流露施行安全评估的作念法是"企业平台的典型作念法"，Staufer团队指出。

该评释注解莫得搜检的是郊野的事件，即智能体时间施行产生不测或不良当作并导致不良效果的情况。这意味着咱们还不知说念作家识别的劣势的全面影响。

有一件事是皆备了了的：智能体AI是开荒团队作念出特定选拔的产物。这些智能体是由东说念主类创建和分发的器用。

因此，纪录软件、审计范例安全问题以及提供适度轨范的包袱完全在于OpenAI、Anthropic、谷歌、Perplexity和其他组织。他们需要接受轨范来转圜所识别的严重缺口，不然将面对改日的监管。

Q&A

Q1：什么是智能体AI？它与精深聊天机器东说念主有什么区别？

A：智能体东说念主工智能是机器学习的一个分支，在畴昔三年中出现。与直率地被分派由文本提醒指定的单个任务的精深聊天机器东说念主不同，智能体是已鸠合到外部资源（如数据库）的AI范例，并被授予一定的"自主权"来追求超出基于文本对话范围的谋略。

Q2：刻下智能体AI存在哪些主要安全问题？

A：研究发现智能体AI存在严重安全问题，包括枯竭流露和透明度、无法追踪范例当作、枯竭使用监控、不向用户标明AI身份、以及某些系统无法罢手开始等。30个智能体中有12个不提供使用监控，大多量智能体默许情况下不流露其AI性质。

Q3：哪些公司的智能体居品被研究考察？

A：研究考察了30个最常见的智能体AI系统，包括OpenAI的ChatGPT智能体和Atlas浏览器、Anthropic的Claude Code器用、Perplexity的Comet网页浏览器、HubSpot的Breeze智能体套件、IBM的watsonx、阿里巴巴的MobileAgent、微软的Office 365 Copilot等居品。