近年来,AI正在逐渐成为新一轮创新焦点,集成大模型已经成为企业提升应用体验和功能深度的普遍趋势。然而,企业在使用多个模型或提供商时,面临着高昂的AI应用成本以及复杂的管理和运维难题。如何更好地管控模型使用、降低成本支出,并清晰地洞察AI使用现状和服务问题,成为企业构建AI应用的内在诉求。
为了让企业和组织能够更轻松地构建AI应用,亚马逊云科技在纽约峰会期间发布了一系列生成式AI技术栈的更新,包括一项生成式AI驱动的企业级应用Amazon App Studio的预览版,以及Amazon Bedrock和Amazon Q的多项更新。
Amazon App Studio轻松构建企业级应用程序
其中,Amazon App Studio由生成式AI驱动,可助力用户通过自然语言轻松打造企业级应用程序,使用者只需简要描述所需应用的特性、功能要求以及希望整合的数据来源,Amazon App Studio即可在数分钟内完成一个专业级开发人员可能需要数日才能完成的应用开发工作。通过点选式界面,用户能够轻松修改Amazon App Studio应用程序,同时还可以通过询问生成式AI助手即刻获得操作指导。
在Amazon App Studio的助力下,即使是IT项目经理、数据工程师和企业架构师这样缺乏软件开发技能的人员也可以快速构建内部应用,而无需掌握专业的运维技能,从而使技术人员得以专注于构建有助于解决业务难题、提升工作效率的应用。
Amazon Bedrock创新功能提升生成式AI使用体验
去年9月份,亚马逊云科技正式发布了生成式AI全托管服务Amazon Bedrock,Amazon Bedrock是利用大模型构建和扩展生成式人工智能应用的最简单方法,它可以提供一系列广泛的能力,例如预置吞吐量功能以保障业务拥有稳定独享的底层资源,模型微调能够将自身的业务数据与大模型快速进行结合,以及能够全面监管大模型的Amazon Guardrails功能等。
虽然Amazon Bedrock能够极大简化企业利用大模型构建AIGC应用的步骤,但基础大模型本身存在的一些问题并不能得到解决,例如无法获取专业知识、存在AI幻觉问题、以及缺乏长期记忆等等,Amazon Bedrock则针对这些问题进行了一系列更新。
针对基础大模型无法获取专属知识的问题,Amazon Bedrock的知识库功能可以让模型读懂用户专属的内容以扩充模型的知识面、从而提升生成结果的关联性和准确性。本次更新增强了Amazon Bedrock的数据连接器范围,并加入了包括Confluence、Salesforce、SharePoint在内的第三方Web域数据源的连接,用户可以更方便地将生成式AI带入到日常应用的场景之中。
针对AI幻觉的问题,Amazon Bedrock在Amazon Guardrails中推出了基于上下文基础检查的幻觉检测功能。该功能允许用户在Amazon Bedrock的Amazon Guardrails中设置针对生成结果准确性的关联值,低于该设定阈值的生成结果会被Amazon Guardrails判定为不相关的幻觉结果并不予显示。
针对生成式AI缺乏长期记忆的问题,Amazon Bedrock的代理功能推出了跨多个交互的记忆保留特性,基于该功能构建的代理能够随时间推移学习并适应每个用户的独特需求和偏好,同时多个记忆之间完全分离,每个用户的对话历史和上下文都会安全地存储在唯一的记忆ID之下,从而进一步提升复杂任务代理下的用户体验。
此外,Amazon Bedrock还在此次更新中增加了代码解释支持功能,该功能允许Agent代理在安全的沙箱环境中动态生成和运行代码片段,从而提升处理复杂任务的能力,如数据分析、可视化、文本处理、方程求解和优化问题等,并支持多种数据类型和格式,并在需要时由大语言模型决定是否调用该功能,以确保灵活性和安全性。
为了让模型评估更加方便,Amazon Bedrock新增了可用于模型集中治理的功能:ApplyGuardrail API,该功能可以用于评估所有基础模型的输入提示和相应,无论企业的AIGC应用使用的是哪些基础模型,构建者都可以配置一套标准化的防护措施,从而确保应用中的模型输入提示和模型响应拥有更加一致的表现。
今年早些时候,Amazon Bedrock就成为了率先支持Claude 3系列模型的托管服务,现在,亚马逊云科技推出了对Anthropic Claude 3 Haiku模型的微调功能(预览版),这也意味着Amazon Bedrock成为唯一一款可以对Claude系列模型进行微调的全托管服务,在专有数据集上对Anthropic Claude 3 Haiku进行微调将进一步提升其在特定领域或人物上的性能表现。
值得一提的是,不久前Claude 3.5 Sonnet已经正式可在Amazon Bedrock上使用,而在今年晚些时候,Anthropic也会推出Claude 3.5 Haiku和Claude 3.5 Opus,这两个模型也将上线Amazon Bedrock。
Amazon Q进一步提升企业效率
对开发者而言,在实际工作中往往只有很少的时间用于编码,而其余时间则花在执行单调且重复的任务上。为了能赋予开发人员更大的能力,以减少他们在编码琐事上花费的时间,将更多精力用于为用户创造独特的体验上,同时加快部署速度,亚马逊云科技在此前推出了Amazon Q Developer功能,在此次更新中,该功能被扩展到了Amazon SageMaker Studio之中,可以简化并加速机器学习的工作流程。具体来说,Amazon Q Developer可以提供基于自然语言的交互,并通过推荐每个任务的最佳工具、提供分步指导、生成入门代码以及在遇到错误时提供故障排除帮助,以及为开发者量身定制针对机器学习开发生命周期的详细执行计划。
此外,Amazon Q Developer现在还扩展到了用户自己的集成开发IDE中,并提供自定义功能,从而在用户的IDE代码编辑器和聊天中提供基于开发者私有代码库生成的代码建议。
另外值得一提的是,Amazon Q Apps已经正式可用,作为Amazon Q Business中的一项功能,Amazon Q Apps允许用户通过自然语言对话的方式构建基于企业数据的生成式AI应用,并安全地将其发布到企业内部的应用程序库Amazon Q Apps Library中,同时添加多个应用类型标签,从让企业内的使用者方便地进行检索,以查找其所需的Q Apps应用。
同时,在合作伙伴层面,亚马逊云科技在峰会上宣布了全球第二批获得该能力认证的合作伙伴,其中有11家来自中国的合作伙伴,包括伊克罗德、柯基数据、八斗智能、墨奇科技、神州数码、聚云科技、神州泰岳、灵奥科技、Zilliz、跨海科技和华讯网络。截止目前,全球已有60余家合作伙伴获得了该认证。亚马逊云科技生成式AI与机器学习市场推广全球副总裁Rahul Pathak表示,“我们非常兴奋迎来新一批获得亚马逊云科技生成式AI能力认证的合作伙伴。自该能力认证推出以来,这些合作伙伴已经在全球范围内帮助客户构建和部署了许多生成式AI工作负载,取得了显著成就和积极影响。”
如今,AI带来的巨大价值潜能正在激活新一轮产业变革周期,诸多企业都在探索如何使用大模型提升自己的生产运营效率,为了能让更多企业能够在兼顾规模与成本的同时选择最适合业务场景的大模型,亚马逊云科技很早之前就创新性地在生成式AI领域提供了三层技术栈,包括最底层的高性能基础设施,中间层的来自多个领先提供商的广泛基础模型选择,以及最上层的开箱即用的生成式AI云服务,毫无疑问的是,亚马逊云科技在本次纽约峰会中推出的一系列生成式AI新功能,能够让诸多企业可以更加轻松地将生成式AI部署到自身的生产和业务之中。
本文属于原创文章,如若转载,请注明来源:让人工智能触手可及 亚马逊云科技生成式AI技术栈重磅更新https://cloud.zol.com.cn/883/8836430.html