Amazon Bedrock新功能登场 助港企建立安全AI应用 捷足先登抢商机

撰文: 林卓恒
出版:更新:

Amazon Bedrock新功能登场 助港企建立安全AI应用 捷足先登抢商机|Amazon Web Services(AWS)宣布推出 Amazon Bedrock 的全新功能,为客户提供更简单、更快捷、更安全的方法协助开发先进的生成式人工智能(Generative AI)应用程式。

Amazon Bedrock 加入全新功能 助客户更快捷地构建和扩展安全的生成式 AI 应用程式

目前,已有成千上万的用户选择将 Amazon Bedrock 作为其生成式 AI 策略的核心基础。Amazon Bedrock 让用户能够轻松导入来自 AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI 以及亚马逊等公司的领先基础模型(FMs),同时满足开发和部署生成式 AI 应用程式所需的功能性和企业级安全性需求。Amazon Bedrock 上可用的强大模型均以完全托管服务的方式提供给客户,为应用程式的无缝部署、可扩展性和持续优化提供了保障,因此客户无需担心底层基础设施。

新增的功能允许客户在 Amazon Bedrock 上运行专属的完全托管模型,简化了为特定应用场景选择最佳模型的过程,并让生成式 AI 应用程式的保护措施更易于实施,同时扩展了模型的选择范围。如需了解更多资讯或使用 Amazon Bedrock,请浏览:https://aws.amazon.com/tw/bedrock/

Amazon Bedrock

从迅速崛起的初创公司到注重安全的大型企业及政府机构,全球各类组织正透过 Amazon Bedrock 激发创新、提升生产效率并打造全新的用户体验。例如,纽约证券交易所利用 Amazon Bedrock 丰富的基础模型和先进的 AI 生成能力,处理众多的监管档案,并将复杂的法规内容转化为易于理解的语言。

此外,欧洲最大的航空公司瑞安航空亦正透过 Amazon Bedrock 协助机组人员即时查询特定国家法规的相关资讯,或从数量庞大的手册中快速撷取关键摘要,确保乘客的旅游顺利顺畅出行,并提升服务效率。专注于为社区医疗机构提供电子健康记录(EHR)解决方案的技术供应商 Netsmart,正透过在 AmazonBedrock 上构建的生成式 AI 自动化工具,协助将个人健康记录的管理时间减少高达 50%,以减轻医护工作者在临床档案管理上的工作负担。构建这将加快 Netsmart 客户提交患者索偿申请过程,同时提升患者所获得的护理体验。

AWS AI 和数据全球副总裁 Swami Sivasubramanian 表示:“企业应用 Amazon Bedrock 正呈现出爆炸式的增长。成千上万来自不同产业、不同规模的企业已选择 Amazon Bedrock 作为他们生成式 AI 策略的核心基础,它极大加快并简化了企业从试验阶段到实际生产的过程。客户对 Amazon Bedrock 充满热情,因为它不仅提供企业级的安全性和私隐保护,还提供了广泛的前瞻模型选择,使构建生成式 AI 应用变得前所未有的简单。随著今天新功能的推出,我们将继续加快创新,为客户提供更丰富的功能和业界领先的模型,并进一步推动生成式 AI 的大规模普及。”

Amazon Bedrock

全新的专有模型导入功能协助客户将客制化模型整合至 Amazon Bedrock,减少营运成本并加速应用程式开发

在 Amazon Bedrock 上,来自医疗保健与金融服务等产业的客户不仅可以轻松使用 AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI 和亚马逊多款领先基础模型,还能利用自身资料定制公开模型,以支援特定产业的应用。当企业需要用自有数据构建这些模型时,他们通常需要透过模型训练服务如Amazon SageMaker,以从头开始训练模型或对现有的公开模型如 Llama、Mistral 和 Flan-T5 进行进阶客制化。自 2017 年推出以来,Amazon SageMaker 已成为构建和训练世界级基础模型的平台,其中包括超大参数量的公开模型 Falcon 180。同时,客户希望能够将他们自己的客制化模型与 Amazon Bedrock内建的高级生成式 AI 工具结合,如知识库、Guardrails、代理(Agents)和模型评估等,而无需自行开发这些功能。

全新的专有模型导入功能协助客户将客制化模型整合至 Amazon Bedrock

借助全新的 Amazon Bedrock 专有模型导入功能,企业现在能够将自己的客制化模型导入到 AmazonBedrock 中,以完全托管的应用程式开发介面(API)形式使用,这种方式为构建生成式 AI 应用程式带来前所未有的体验。只需点击几下,客户即可将他们使用 Amazon SageMaker 或其他工具开发的模型整合到 Amazon Bedrock 平台上。模型透过自动化验证流程后,客户便可像使用平台上其他模型一样使用自己的客制化模型,同时享受目前 Amazon Bedrock 所具备的全部优势,包括无缝的可扩展性、强大的保护能力、遵循负责任的 AI 原则、利用检索增强生成(RAG)扩充模型知识库、轻松打造用于完成多步骤任务的代理(Agents)、进行微调以持续训练和优化模型,且无需管理底层基础设施。这项新功能让企业能够轻松地透过同一 API 使用 Amazon Bedrock 的模型与自己的客制化模型,AmazonBedrock 专有模型导入功能现已推出预览版,并支援三种最受欢迎的开放模型架构:Flan-T5、Llama 和Mistral,并计划未来支援更多模型。

全新模型评估功能协助客户评估、比较和选择适合其应用程式的最佳模型

Amazon Bedrock 提供了最广泛和业界领先的模型选择,满足企业在价格、效能或功能方面的各种需求,并允许企业独占或与其他企业共享模型。构建生成式 AI 应用程式的关键步骤是找到合适的模型,而选择特定应用场景的最佳模型则需要客户在准确性和效能之间达成微妙的平衡。现在,企业仍需要花费大量时间分析每个新模型可以如何满足他们的应用场景,这拖慢了他们向用户提供生成式 AI 体验的速度。全新模型评估功能已于今天正式可用,它是企业快速分析和比较 Amazon Bedrock 上模型的最快方式,让评估模型的时间从几星期缩短到几小时,进而加快推出新的应用程式并改善使用者体验。客户可以立即开始评估,透过选择预定义的评估标准(例如准确性和稳健性)并上传自有数据库或提示库,或者从内建的、公开可用的资源中进行选择。对于主观标准或需要细致判断的内容,Amazon Bedrock 使客户能够轻松将人工审核融入到工作流程中,以根据特定应用场景的指标(如相关性、风格和品牌声量)对模型进行评估。当完成设定,Amazon Bedrock 将执行评估并生成报告,使客户能够轻松了解模型在关键指标上的表现,并迅速选择最适合其应用场景的模型。

Amazon Bedrock 上的模型评估可让您使用自动和人工评估,为特定使用案例选择 FM。

透过 Amazon Bedrock Guardrails 功能,客户可利用前瞻技术轻松实施防护措施,去除个人讯息和敏感资讯、不当语言、特定词汇并过滤有害内容

企业需要以安全、可信和负责任的方式使用生成式 AI。现时大量模型使用内建控制来过滤不良和有害内容,但多数客户希望进一步客制化他们的生成式 AI 应用程式,以确保生成结果更具相关性,在符合公司政策的同时遵循负责任的 AI 原则。现时,Amazon Bedrock 的 Guardrails 功能已正式可用,它在基础模型的原有功能之上提供了业界领先的安全保护,能够协助客户阻止高达 85% 的有害内容。Guardrails 是唯一一项由顶级云端服务供应商提供的解决方案,它允许客户在单一服务中同时拥有内建和客制化的防护机制,并可与 Amazon Bedrock 中的所有大型语言模型(LLMs)以及经过微调的模型一起使用。要打造一个 Guardrail,客户只需提供一个自然语言描述来定义其应用程式上下文中不予显示的主题。此外,客户还可以设定阈值以过滤仇恨言论、侮辱、性相关用语、攻击和暴力性等内容,并设定筛检程式以移除个人讯息和敏感资讯、不当言论或过滤特定词汇。Amazon Bedrock Guardrails 透过为生成式 AI 应用程式提供一致的使用者体验和标准化的安全和私隐控制,让客户能够快速且安全地进行创新。

更多模型选择:Amazon Titan Text Embeddings V2、正式可用的 Titan Image Generator,以及来自 Cohere

和 Meta 的最新模型Amazon Bedrock 专属的 Amazon Titan 模型是由 AWS 在大规模且多样化的数据库上建立和预训练而成的,专为多种应用场景而设,并内建负责任的 AI 功能。Amazon Bedrock 不断扩展 Amazon Titan 系列,为客户提供更多选择和灵活性。Amazon Titan Text Embeddings V2 优化了针对使用 RAG 的应用场景,适合资讯搜寻、问答聊天机械人和客制化推荐等用途。许多企业正采用流行的 RAG 模型客制化技术,透过连接到知识源头以增强基础模型生成的内容。然而,运行这些操作可能会消耗大量运算和储存资源。即将推出的新版 Amazon Titan Text Embeddings V2 模型透过为客户提供灵活的嵌入(embeddings)功能,将储存需求降低至原来的四分之一,降低储存、运算和营运成本,同时在 RAG应用场景中保持 97% 的准确性,表现优于其他领先模型。

Amazon Titan Image Generator 现已正式可用,为广告、电子商务、媒体和娱乐等产业客户提供了一种低成本的方式以自然语言提示来生成专业级别的图像,或对现有图像进行优化和编辑。Amazon TitanImage Generator 同时为生成的所有图像设计隐形浮水印,以协助识别 AI 生成的图像,推动 AI 技术的安全度、可靠度和透明度发展,减少传播虚假资讯。同时,Amazon Titan Image Generator 还可以检查图片中是否存在浮水印,协助客户确认图片是否由其生成。

Amazon Titan Image Generator

同时,Amazon Bedrock 上的 Meta Llama 3 基础模型已正式可用,Cohere 的 Command R 和 Command R+ 模型亦即将推出。Llama 3 专为开发者、研究人员和企业而设,旨在支持他们构建、试验并负责任地扩展生成式 AI 专案。Llama 3 模型是一系列经过预训练及微调的大型语言模型,适用于广泛的应用场景,特别擅长执行文本摘要和分类、情感分析、语言翻译及程式码生成等任务。而 Cohere 的 Command R 和 Command R+ 模型则是前瞻的基础模型,客户能够基于该模型构建支援 10 种语言、具备先进 RAG 功能的企业级生成式 AI 应用,协助全球业务拓展。

来自 Amazon Bedrock 客户和合作伙伴的回馈

亚马逊打造的 Rufus 是一款以生成式 AI 为核心的专业购物助手,它基于公司庞大的产品目录、客户建议、社群问答以及互联网资讯进行训练。Rufus 能解答客户的购物疑问、提供产品比较,并根据对话情境进行推荐。亚马逊商店 Foundational AI 副总裁兼杰出科学家 Trishul Chilimbi 表示:“为了在亚马逊商店中提供卓越的对话式购物体验,我们致力于为 Rufus 开发先进的模型,并期待它为客户带来超乎预期的价值。透过利用 Amazon Bedrock 的客制化模型导入功能,我们能够将 Rufus 先进的底层模型提供给内部开发人员,以完全托管的 API 形式使用它。现在,各个业务团队都可以使用这个模型来构建自己的应用,而 Amazon Bedrock 则简化了开发流程,协助所有亚马逊客户快速开发新体验。”

电通(Dentsu)为全球领先的综合行销和技术服务提供者之一。电通创意全球技术总监 James Thomas表示:“在过去三个月里,我们利用 Amazon Titan Image Generator 模型的预览版,透过自然语言提示创造了大量仿真的工作室级图像,主要用于产品推广和一致的品牌标志生成。我们的创意团队对 Titan Image Generator 生成的多样化内容感到印象深刻,这些内容协助我们为全球广告活动创造了引人注目的图像。我们期待体验该模型新推出的浮水印检测功能,这将提升 AI 生成内容的透明度,并协助我们与客户建立更牢固的信任关系。”

Salesforce 为全球 AI 客户关系管理(CRM)领域的领导者,其“CRM + 数据 + AI + 信任”的组合为企业提供了强大的客户连结。Salesforce AI 产品资深副总裁 Kaushal Kurapati 表示:“AI 是我们承诺协助客户在 Salesforce 应用中提供客制化体验的核心,这些应用都建立在 Data Cloud 的数据之上。为了在我们的统一数据平台上实施生成式 AI,我们正在评估各种基础模型,确保所选模型最符合客户的需求。Amazon Bedrock 是我们开放生态系统模型策略的关键部分,这项新的模型评估功能提供自动化与人工评估两种方式,加速了我们比较和选择模型的过程。现在,我们不仅可以基于直观标准评估模型,还能从友好性、风格和品牌相关性等更多质性标准进行评估。这种能力的提升将使我们为客户营运模型变得更简单和迅速。”

关于 Amazon Web Services

自 2006 年来,Amazon Web Services 一直在提供世界上服务最丰富、应用广泛的云端服务。AWS 为客户提供超过 240 种功能全面的云端服务,包括运算、储存、数据库、网络、分析、机器学习与人工智能、物联网、流动、安全、混合云、媒体,以及应用开发、部署和管理等方面,遍及 33 个地理区域内的 105 个可用区域(Availability Zones),并已公布计划在马来西亚、墨西哥、纽西兰、沙特阿拉伯和泰国等建立 6 个 AWS 地理区域、18 个可用区域。AWS 的服务获得全球超过百万客户的信任,包括发展迅速的初创公司、大型企业和政府机构。通过 AWS 的服务,客户能够有效强化自身基础设施,提高营运上的弹性与应变能力,同时降低成本。欲了解更多有关 AWS 的资讯,请浏览: https://aws.amazon.com