你的员工正在构建人工智能体。你知道他们在干什么吗？
商业用户可以为AI应用场景带来新鲜视角，但7%的人表示他们的代理开发已经失控。以下是关于这一上升趋势的了解以及如何抢先应对风险的指南。
你的员工正在构建人工智能代理
员工们渴望将代理人工智能融入工作，开始亲自创造自己的人工智能代理，不顾组织批准，而如果IT领导者不抢先一步，这些创作中不少可能会带来毁灭性后果。
根据工程人力资源公司Howdy最近的一项调查，三分之二使用人工智能的知识型工作者也使用代理，16%已开始自行构建代理。
然而，大约四分之一的代理用户不得不关闭它们，主要是因为代理的输出不一致或代理从未工作过。但7%的知识工作者不得不杀死叛变的特工。
这些发现指出了影子代理创建以及鼓励商业用户自行制作代理的官方公民AI策略可能带来的潜在后果。
虽然调查没有询问那些自行构建代理的员工是否是自行完成的，Howdy创始人弗兰克·利西亚（Frank Licea）发现，许多人并未等待许可。
“在我们内部团队中，我们不得不踩刹车，而是要求大家坚持住，”他说“在他们开始跳进去、组建自己的特工之前，我们必须设置防护栏和系统指南，以确保安全操作。”
据Licea所见，员工们很乐意通过自己构建代理来自动化枯燥的手动任务。“这大多是未经批准开始的，因为任何组织里都有技术导向的人，天生好奇，”他说。“或者说，也许是聪明地懒惰。他们想自动化工作。”
Licea表示，近几个月来，Howdy员工开始互相分享他们如何自动化手动任务，而无需等待公司IT团队批准。
“对我们来说，事情是这样的，人们会像是笑容满面地走过来，兴奋地为他们自动化或修复了工程团队从未在路线图上解决的长期问题感到兴奋，”他说。“一旦这种情况开始发生，技术端的人就会介入，开始问诸如'这里的API密钥是什么？'你是在访问加密数据吗？SOC2 有什么影响？”
谨慎的拥抱
软件工程提供商Sngular的产品工程副总裁Luis Mesas认为，员工们不可避免地会尝试构建AI代理来自动化工作。
“无论公司是否正式批准，员工都会自己创建代理，因为构建这些工具的门槛正在降低，工程团队已经被要求用更少的资源做更多事情，”他说。“我更关心的不是员工创建代理，而是当代理开始连接公司系统和数据时，缺乏通常软件周围的控制措施，会发生什么。”
他说，IT领导者需要了解员工创建的代理如何连接内部系统和数据。他补充说，如果员工创建了一个能够从CRM中提取客户信息、更新记录或在系统间移动信息的代理，IT领导者应该知道这件事正在发生。
“我想知道该特工究竟能访问什么，以及员工是否应该拥有这种权限，”梅萨斯说。“这就是从个人生产力工具变成企业技术问题的地方。”
B2B商务平台提供商AppDirect的首席技术官Andy Sen认为，应鼓励员工建立代理——但要在保护和既定政策范围内。
“员工几乎肯定是在培养自己的代理人，认为不是这样是天真的想法，”他说。“影子IT一直存在，而影子特工只是它的最新版本。”
不过，他说答案不是锁定局面。在AppDirect，Sen为员工提供了一个“真正的数字游乐场”，并响应员工需求，他的团队开发了一项名为Devs.AI的人工智能驱动编码服务。
“我们打造 Devs.AI 是为了让员工能够自由构建和创新，但IT部门对使用情况和成本有全面的了解，并且确保公司数据不会被泄露到全世界，”他补充道。
像AppDirect这样的公民AI策略正在兴起，但需要持续的监控。Sen表示，如果四分之一的员工代理被停用，IT领导者应当关注。
“失败和学习没关系，”他补充道。“默默失败不是。你需要在小问题变成严重问题之前，了解特工们的行动。”
不过，Sen对员工创建的特工中少数叛变的报道表示怀疑。
“当特工叛变时，通常意味着他完全照指示做了，而被告知的并不对，”他说。“那是创作者的责任，不是代理人的。”
为好点子开辟道路
敏捷方法论供应商Scaled Agile的首席方法学家Andrew Sales也认为，代理的广泛停用是IT领导者需要调查的强烈信号。
“当代理快速构建且置于正式模型之外时，通常没有明确的界限，比如它们能做什么、能访问哪些数据，或者何时需要人工介入，”他说。“所以有些项目被关闭也就不足为奇了。”
Sales指出，AI治理很重要，但不应仅仅关注防止不良结果。
他解释道：“这也应该为好点子从个人实验走向企业能力开辟一条道路。”“组织需要一种方法来识别有效的方法，进行标准化，使其安全，并在团队间负责任地推广。如果做得好，正是这个抓住出错代理人的框架，也让那些成功的代理人得以传播。”
原文作者：格兰特·格罗斯
留言