01Oracle在堆栈嵌入生成式AI
产品:Oracle 数据库机(ODA)X6-2-HA 甲骨文 超融合Oracle宣布推出Oracle云基础设施远程软件服务(Oracle Cloud Infrastructure,OCI)Generative AI服务 以及其它创新功能,助力企业更轻松地利用生成式AI方面的新技术。OCI Generative AI服务是一项全面托管服务,可无缝集成Cohere和Meta Llama 2的大型语言模型 (LLM),有效解决各种业务用例。OCI Generative AI服务如今包括了可支持超过100种语言的多语言功能、升级版GPU集群管理体验以及灵活的微调选项。客户可以在 Oracle Cloud 和本地环境中通过OCI Dedicated Region使用OCI Generative AI服务。
甲骨文公司云基础设施AI和数据管理高级副总裁Greg Pavlik表示:“Oracle的AI重点专注于解决现实世界的业务用例,推动企业广泛采用AI技术。为此,我们正在将生成式AI集成到我们的应用和融合数据库中,并提供新的LLM和托管服务,从而将AI嵌入到技术堆栈的每一层,这些都由快速且经济高效的AI基础设施提供支持。不同于提供需要组装的工具包,我们选择提供一整套强大的预构建生成式AI服务和功能,这些服务和功能可以协同工作,帮助客户更智能、更快地解决业务问题。”
简化生成式AI模型的定制
为了帮助客户解决文本生成、汇总和语义相似性任务方面的业务问题,Cohere和Meta Llama 2的新模型将通过托管服务提供,并支持API调用。此外,客户将能够轻松、安全地将生成式AI嵌入到技术堆栈中,并实现严格的数据安全保护和治理。
客户可以使用自己的数据和检索增强生成 (RAG) 技术进一步完善这些模型,从而确保模型能够适应相关企业的内部运作需求。现在,OCI Generative AI Agents服务测试版自带RAG agent,结合了基于OCI OpenSearch的LLM和企业搜索的双重功能,可根据企业数据提供情境化结果。借助agent,用户能够使用自然语言与各种企业数据源交互,而无需掌握相关的专业技能。检索结果显示的是当前信息(即使是基于动态数据存储也一样),并提供原始源数据的参考资料。
初始测试版支持OCI OpenSearch。未来即将推出的其它版本将支持更多数据搜索和整合工具,并支持通过AI Vector Search访问Oracle Database 23c以及通过Vector Store访问MySQL HeatWave。Oracle还将在SaaS应用套件(包括Oracle Fusion Cloud Applications Suite、Oracle NetSuite以及Oracle Health等其它行业应用)中提供预构建的agent操作。
IDC全球AI和自动化研究实践团队副总裁兼全球AI研究主管Ritu Jyoti表示:“Oracle会将生成式AI引入客户工作负载及其数据,而不是要求客户将数据迁移到单独的向量数据库。从自治数据库(Autonomous Database) 到Fusion SaaS应用,整个Oracle生态系统都集成了通用的生成式AI架构,Oracle正在将生成式AI引入云数据中心和本地环境中,而EB级的客户数据正是存放在这些环境中。这将大大简化企业在现有业务运营中部署生成式AI的流程。”
在Oracle堆栈的每一层嵌入生成式AI
Oracle的AI基础设施和全面的云技术应用组合形成了值得客户信赖的强大组合。Oracle将生成式AI集成到云技术应用组合(包括ERP、HCM、SCM和CX)中,帮助客户在现有业务流程中充分利用新创新。此外,Oracle还将生成式AI功能嵌入到数据库组合中,帮助客户构建自己的AI应用。借助Autonomous Database Select AI,客户可以将私有企业数据与生成式AI的生产力和创造力相结合,从而加速应用开发或创建新的业务解决方案。
Oracle也在积极扩展OCI Data Science的功能,让客户能够使用开源库(例如Hugging Face的Transformers或PyTorch)构建、训练、部署和管理LLM。全新的OCI Data Science AI Quick Actions功能测试版将于下个月发布,支持对各种开源LLM(包括Meta或Mistral AI等主流提供商)进行无代码访问。