Llm Boom

• 随着数以千计的 agentic AI 智能体被部署在多个企业系统中与员工协同工作，企业正面临成本上升和治理缺失的挑战。 • 为了应对这些挑战，Kong 正在开发一套新系统，旨在根据任务的复杂程度，将特定的 AI 工作负载与最合适的模型相匹配。 • 该计划旨在帮助组织优化运营支出，并确保其各种 AI 部署的一致性。

• 企业正从AI实验阶段转向部署“代理式AI”（agentic AI），这意味着数千个自主代理将与人类员工一起在多个系统中运行。 • 这一转型带来了显著的运营挑战，特别是企业环境下不断上升的成本以及关键的治理漏洞。 • 尽管此前行业的关注点集中在大语言模型（LLMs）和生成式AI，但现在的优先级正转向管理这些代理所需的底层基础设施。