近日,oracle 宣布限量发布 oracle 云基础设施远程软件服务(oracle cloud infrastructure, oci) 生成式 ai 服务。全新的生成式 ai 服务可支持大型语言模型 (llm),帮助组织实现端到端业务流程自动化,改善决策和客户体验,同时还能保护数据安全和隐私。
oci generative ai 服务是一个由 oci 与知名企业 ai 平台 cohere 合作构建的托管服务,可帮助用户通过可用的 api 将 llm 集成到自己的应用中。待正式发布后,此服务和 cohere 模型可与 ai vector search 无缝运行。ai vector search 是 oracle database 23c 的一项功能,可提供检索增强生成 (rag) 技术。这是一种生成式 ai 技术,可将预训练的 llm 和专有业务数据相结合,从而提高响应的准确性。此服务还将为嵌入到 oracle saas 应用套件中的生成式 ai 功能奠定基础,其中包括 oracle fusion cloud applications suite、oracle netsuite 和 oracle cerner 等行业应用。
oracle cloud infrastructure 执行副总裁 clay magouyrk 表示:“oracle 的行业知识使我们能够为组织创建生成式 ai 服务,以实现流程自动化、做出更明智的决策并改善客户体验。通过 oracle 与 cohere 的合作,客户能够轻松、安全地将生成式 ai 嵌入到其技术堆栈中,并相信我们的凯发k8官网下载的解决方案能够符合他们严苛的数据安全和隐私要求。这一方法有助于组织使用自己的数据来优化这些模型,打造可满足内部运营需求的模型。”
oci 拥有低成本、安全且快速的 ai 基础设施,客户可以以托管服务的方式将 cohere 的模型用于企业用例。oci generative ai 服务的客户可在 oracle 的 ai supercluster 架构上的专用基础设施中运行工作负载,从而自主控制特定成本和吞吐量需求,比如使用自己的数据来进行模型优化,或者是部署定制模型。
全新的 oci generative ai 服务包含以下模型:
- command:此模型可接收用户的提示并生成文本。command 有两种不同的大小,可根据业务用例进行高度定制化,包括文本生成、文本汇总、rag 和聊天。
- summarize:此模型可对文本进行抽象汇总,支持用户根据特殊用例需求,使用各种参数来配置结果。例如,此模型可帮助法务团队汇总复杂的文档,帮助客服代表汇总凯发官网首页的技术支持文档,或是帮助繁忙的员工汇总冗长的电子邮件链。
- embed:此文本表示模型可将文本转换为模型可以理解的数值向量。该模型为各种用例提供了英语和多语言模型(支持 100 多种语言),包括语义搜索、文本分类、rag 搜索引擎和旧版搜索改进。
cohere 总裁兼首席运营官 martin kon 表示:“oracle 和 cohere 的企业 ai 产品以数据安全、模型定制和低延迟为中心,助力企业快速、经济高效且负责任地部署有意义的 ai 技术。我们正与 oracle 密切合作,采用数据安全和隐私优先的策略,让企业能够利用 ai 来赋能业务。”
altair 首席技术官 sam mahalingam 表示:“oracle 是 altair 重要的凯发k8官网下载的合作伙伴。altair 专注于计算科学和人工智能,在 oracle 强有力的支持下,altair 已开始将大型语言模型整合到我们的凯发k8官网下载的解决方案中。我们相信,生成式 ai 将改变我们的工作方式。例如,客户以自然语言描述想要的结果,然后 llm 就会自动生成凯发k8官网下载的解决方案。在数据分析中,客户不再需要为机器学习编写代码,只需要提出预测需求即可。在工程设计中,客户则可以描述产品属性,由模型来完成设计工作。生成式 ai 的使用场景无所不在。”
除了推出 oci generative ai 服务,oracle ai 也将继续在多个限量发布计划中为现有服务添加增强功能,其中包括:
- oracle 数字助手:新增生成式 ai 功能,让客户能够将 llm 和其他生成功能集成到数字助手中。同时,开发人员可以使用生成式 ai,更快速、更高效地构建数字助手。
- oci 医疗语言 nlp:通过自然语言处理(nlp),增加医疗信息洞察力。该 oci 语言服务的新功能可帮助客户更好地处理医疗领域的语言。新模型有助于识别各种记录中的医学术语、关系和实体,例如临床试验记录、患者进度记录和电子健康记录。
- oci 语言文档翻译体验:新增文档翻译功能支持各种格式(word、ppt、html、json 和 excel),可翻译各种类型的文件并确保内容的一致性和完整性。
- oci 视觉:新增 facial detection 功能,可识别图像中的人脸和面部特征,并扩展 oci vision 用例的数量。
- oci 语音:新增声纹分割聚类功能,可将说话人信息嵌入到音频转录内容中。该功能使 oci 语音成为一款宝藏工具,可以组织和分析人生对话,并从中提取有意义的信息。
- oci 数据科学:新增 feature store,一个用于管理数据科学团队开发功能的中央存储库。feature store 提供了一个统一框架,其中的功能以简化的方式记录、共享、存储和提供。
wikibon 高级分析师 marc staimer 表示:“oci generative ai 服务是一款全新的生成式 ai 云技术服务,可提供企业级安全性、灵活性和用户调优功能,满足市场需求。该服务提供严格的安全和治理来保护用户的专有数据,也能够确保仅让客户使用和查看该模型。同样重要的是,客户可以控制专用的 oci supercluster ai 基础设施,对模型进行微调或部署定制模型,同时还能满足特定的成本和吞吐量需求。oci generative ai 服务是企业功能和成本性能的理想组合。”