发布日期:2024-12-08 07:56 点击次数:133
亚马逊云科技助力客户加快选定生成式AI
模子蔓延限制空前,并新增推理优化用具及稀零的数据功能,为客户提供了更大的纯真性和罢休力,更快构建和部署坐蓐级生成式AI
北京 2024年12月6日 /好意思通社/ -- 亚马逊云科技在2024 re:Invent大众大会上,告示推出Amazon Bedrock的多项革命功能。Amazon Bedrock是亚马逊云科技一项全皆托管的管事,旨在利用高性能基础模子构建和蔓延生成式东说念主工智能(AI)应用阵势。这次发布进一步彰显了亚马逊云科技对模子聘请的应允,同期优化了大限制推理的奉行神气,匡助客户从数据中挖掘更多价值。
在新模子目次中探索Amazon Bedrock Marketplace模子和Amazon Bedrock全皆托管的模子
亚马逊云科技行将成为首家提供Luma AI和poolside模子的云管事提供商。亚马逊云科技还将把Stability AI的最新模子添加至Amazon Bedrock,并通过全新的Amazon Bedrock Marketplace功能为客户提供100多个热点、新兴及专科模子的拜谒权限,客户可凭据自己用例找到最允洽的模子组合。
全新的指示词缓存功能和Amazon Bedrock Intelligent Prompt Routing指示词智能路由功能匡助客户更猖狂、更经济地蔓延推理业务。
Amazon Bedrock Knowledge Bases现已提供对结构化数据和GraphRAG的支撑,进一步拓展了客户利用自己数据提供定制化生成式AI体验的道路。
Amazon Bedrock Data Automation功能大致在无需编写代码的情况下,自动将非结构化、多模态的数据编削为结构化数据,以匡助客户将更大皆据应用于生成式AI及分析责任中。
满坑满谷的客户信托Amazon Bedrock运转其生成式AI应用阵势,当年一年使用该管事的客户量增长了4.7倍。Adobe、Argo Labs、良马集团、Octus、Symbeo、Tenovos和Zendesk等公司已选定Amazon Bedrock的最新本领。
亚马逊云科技东说念主工智能和数据副总裁Swami Sivasubramanian博士示意:"Amazon Bedrock管事合手续快速增长,因其等闲而开始的模子聘请、可猖狂基于自己数据进行定制的用具、内置的负包袱的AI功能以及设备复杂智能体的身手成为越来越多客户的聘请。为了让客户充分开释生成式AI的后劲,Amazon Bedrock一直发奋于惩处设备东说念主员现时边临的最大挑战。通过这次新发布的一系列新功能,咱们将匡助客户设备出更智能的AI应用阵势,让他们为其最终用户创造更大价值。"
收罗开始AI公司的等闲模子聘请
Amazon Bedrock为客户提供丰富的全皆托管的模子聘请,这些模子来自开始的AI公司,包括AI21 Labs、Anthropic、Cohere、Meta、Mistral AI以及Stability AI等。此外,Amazon Bedrock是客户使用新发布的Amazon Nova模子的惟一渠说念。Amazon Nova是新一代基础模子,以行业开始的性价比为等闲的任务提供先进的智能身手。通过这次发布,亚马逊云科技在Amazon Bedrock上新增更多行业开始的模子,进一步蔓延Amazon Bedrock的模子聘请范围。
Luma AI的Ray 2:Luma AI的多模态模子和软件居品借助生成式AI鼓动视频本色创作。亚马逊云科技将成为首家向用户提供Luma AI起初进的Luma Ray 2模子(其闻明视频模子的第二代)的云管事提供商。Ray 2象征着生成式AI接济视频创作的首要跨越,它大致依据文本和图像高效且以电影级质感生成高质料、传神的视频。用户大致快速尝试不同的拍摄角度和格调,创建扮装连贯、物理后果准确的视频,可为建筑、前卫、电影、平面假想以及音乐等范畴提供创意性输出。
poolside的malibu和point:poolside惩处大型企业当代软件工程濒临的挑战。亚马逊云科技将成为首家提供poolside的malibu和point模子拜谒权限的云管事提供商,这两个模子在代码生成、测试、文档编制以及实期间码补全方面发扬出色。这有助于工程团队提高坐蓐力,更快编写出更优质的代码,并加快居品设备周期。这两种模子还大致依据客户的代码库、实际操作以及文档进行安全、诡秘的微调,使其大致适配特定技俩,匡助客户以更高的准确性和服从处理盛大软件工程任务。此外,亚马逊云科技还将成为首家提供poolside Assistant拜谒权限的云管事提供商,该功能不错将poolside的malibu和point模子宏大的功能融入设备东说念主员首选的集成设备环境(IDE)之中。
Stability AI的Stable Diffusion 3.5 Large:Stability AI是视觉媒体范畴开始的生成式AI模子设备商,在图像、视频、3D和音频方面领有先进的模子。Amazon Bedrock行将添加Stable Diffusion 3.5 Large这一Stability AI起初进的文本转图像模子。该模子大致依据多样格调的文本形色生成高质料图像,加快为媒体、游戏、告白以及零卖范畴的客户创建成见艺术、视觉后果以及详备的居品图像。
通过Amazon Bedrock Marketplace拜谒100多个热点、新兴和专科模子
尽管Amazon Bedrock中的模子大致支撑无边任务,好多客户仍但愿将新兴的专用模子融入到他们的应用阵势中,为其特有的用例,如分析财务文档或生成新式卵白质等提供支撑。借助Amazon Bedrock Marketplace,客户如今大致猖狂地从100多个模子中进行查找与聘请,这些模子可部署在亚马逊云科技上,并能通过Amazon Bedrock中的协调体验进行拜谒。
客户一朝找到他们思用的模子,就能依据自己蔓延需求聘请允洽的基础设施,并通过全皆托管端点猖狂将其部署在亚马逊云科技上。客户随后可将该模子与Amazon Bedrock的协调应用阵势编程接口(API)安全集成,从而使用诸如Guardrails和Agents等用具,并受益于内置的安全和遁入功能。
Zendesk是一家大众管事软件公司,管事于隐敝大众10万个品牌的多元文化客户群体。该公司可在Amazon Bedrock中使用如用于翻译的Widn.AI等专用模子,通过电子邮件、聊天、电话以及应酬媒体对客户管事申请进行个性化和土产货化处理。这将为客服东说念主员提供其所需的数据,比如客户母语抒发中的热诚或意图等,最终普及客户管事体验。
指示词缓存和Intelligent Prompt Routing匡助客户大限制处理推理问题
在聘请模子时,设备东说念主员需要衡量多种身分,如准确性、资本和延伸。针对其中任孤单分进行优化,皆可能意味着在其他身分上作念出古老。为了在将应用阵势部署到坐蓐环境时均衡这些考量身分,客户会选定多种本领,举例缓存常用指示词或将随意问题分拨给较小模子。可是,愚弄这些本领既复杂又耗时,需要专科学问来反复测试不同的轮番,以确保终局用户赢得精湛的体验。正因如斯,亚马逊云科技新增了两项功能,匡助客户更灵验地大限制治理指示词信息。
通过缓存指示词功能责骂反映延伸和资本。Amazon Bedrock现已支撑安全地缓存指示词,从而减少重叠处理,且不会影响准确性。对于受支撑的模子,此功能最高可将资本责骂90%,并将延伸最多镌汰85%。举例,一家讼师事务所不错创建一个生成式AI聊天应用阵势,用于回答讼师联系文献的问题。当多名讼师在指示词中商讨对于文档团结部分的问题时,Amazon Bedrock大致缓存该部老实容,使其只需处理一次,之后每当有东说念主思要商讨联系问题时便可重叠使用。这通过减少模子每次需要处理的信息量来责骂资本。Adobe的Acrobat AI助手通过终了快速文档选录和问答功能,提高了用户的责任服从。凭据初步测试,借助Amazon Bedrock上的指示词缓存功能,Adobe发现其反映时分镌汰了72%。
指示词智能路由功能有助于优化反映质料和资本。借助该功能,证券配资客户能设立 Amazon Bedrock 自动把指示词分拨至团结模子系列里的不同基础模子,以优化反映质料和资本。愚弄先进的指示词匹配和模子清醒本领,指示词智能路由大致展望每个申请对应的每个模子的性能,并将申请动态路由至最有可能以最低资本提供所需反映的模子。指示词智能路由可在不影响准确性的情况下,将资本责骂多达30%。Argo Labs为餐厅提供革命的语音代清醒决决策,通过指示词智能路由处理各样客户照拂和预订业务。当客户提交问题、下单以及预订位置时,Argo Labs的语音聊天机器东说念主会动态地将查询申请路由至最允洽的模子,从而优化反映的资本和质料。举例,像"今晚这家餐厅有空桌吗?"这么随意的詈骂问题,不错由较小模子处理,而"这家餐厅提供哪些素食选项?"这类更复杂的问题则可由较大模子往复答。借助指示词智能路由功能,Argo Labs大致利用其语音代理无缝处理客户交互,同期终了准确性和资本之间的合理均衡。
Amazon Bedrock学问库的两项新功能助力客户最猛进程分解数据价值
无论自己数据存储于那边、选定何种阵势,客户皆但愿利用它们为终局用户构建特有的由生成式AI驱动的体验。学问库是一项全托管功能,客户借助检索增强生成(RAG),大致猖狂利用高下文联系及关联数据自界说基础模子的反映。诚然学问库已能浅陋地伙同至诸如Amazon OpenSearch Serverless和Amazon Aurora等数据源,但好多客户还但愿将其他数据源和数据类型融入其生成式AI应用阵势中。基于此,亚马逊云科技为学问库新增了两项功能。
结构化数据检索支撑功能加快生成式AI应用阵势设备。Knowledge Bases提供了首批托管式、开箱即用的RAG惩处决策之一,使客户大致奏凯查询其生成式AI应用阵势中结构化数据的存储位置。这一功能有助于冲破数据源之间的数据孤岛,将生成式AI设备周期从一个多月镌汰至短短几天。客户大致构建应用阵势,让应用阵势愚弄当然话语查询来探索存储在Amazon SageMaker Lakehouse、Amazon S3数据湖以及Amazon Redshift等数据源中的结构化数据。借助这项新功能,指示词信息会编削为SQL查询,用于检索数据结果。Knowledge Bases会依据客户的架构和数据自动调养,从查询步地中学习,并提供一系列定制选项,进一步提高所选用例的准确性。信用谍报公司Octus将愚弄Knowledge Bases中全新的结构化数据检索功能,允许终局用户使用当然话语查询结构化数据。通过将Knowledge Bases与Octus现存的主数据治理系统贯串,终局用户的指示词信息可编削为SQL查询,Amazon Bedrock利用这些SQL查询检索联系信息,并将其四肢应用阵势反映的一部分复返给用户。这将匡助Octus的聊天机器东说念主向用户提供精确的、由数据驱动的见识,增强用户与公司一系列数据居品之间的交互。
GraphRAG支撑功能可生成更具联系性的反映。学问图谱允许客户通过将不同的联系信息映射成网状结构来对数据间的关系进行建模和存储。将这些学问图谱融入RAG时会颠倒有用,系统可依据图谱猖狂审阅并检索联系信息片断。如今,凭借对GraphRAG的支撑,Knowledge Bases可让客户无需具备图数据库专科学问,即可使用Amazon Neptune图数据库管事自动生成图谱,并跨数据聚积各实体之间的关系。Knowledge Bases大致更浅陋地生成更准确、更联系的反映,借助学问图谱识别联系谈论,并稽查源信息以了解模子怎样得出特定反映。良马集团将为旗下的My AI Assistant(MAIA)实施GraphRAG。MAIA是一款东说念主工智能驱动的虚构助手,可匡助用户查找、清醒并整合托管在亚马逊云科技上的公司里面数据钞票。借助由Amazon Neptune支撑的GraphRAG自动化图形建模功能,良马集团大致依据数据使用情况,合手续更新MAIA所需的学问图谱,从其数据钞票中提供更具联系且全面的细察,进而合手续为数百万车主打造优质体验。
Amazon Bedrock Data Automation将非结构化多模态数据编削为结构化数据,用于生成式AI和分析
如今,大大皆企业数据皆詈骂结构化的,这些数据包含在文档、视频、图像以及音频文献等本色中。好多客户但愿利用这些数据挖掘见识或为客户打造新体验,但将其编削为便于分析或RAG所需的阵势常常是一个高深的手动历程。举例,银行在处理贷款业务时可能会接受多个PDF文档,需要从每个文档中提真金不怕火详备信息,对姓名、降生辰期等特征进行模范化以保证一致性,然后将结果编削为文本阵势,再输入数据仓库进行分析。借助Amazon Bedrock Data Automation,客户大致使用单个API从非结构化本色中大限制自动提真金不怕火、编削并生成数据。
Amazon Bedrock Data Automation大致快速且经济高效地从文档、图像、音频以及视频中提真金不怕火信息,并将其编削为结构化阵势,适用于智能文档处理、视频分析以及RAG等用例。该功能不错使用预界说的默许建设生成本色,举例视频片断每个场景的形色或音频的转录本色,客户也不错凭据自己的数据架构生成定制化的输出本色,并将其猖狂加载到现存的数据库或数据仓库中。通过与Knowledge Bases的集成,Amazon Bedrock Data Automation还不错贯通本色以支撑RAG应用阵势,通过整合镶嵌在图像和文本中的信息,普及结果的准确性和联系性。同期,该功能提供置信度评分,并基于原始本色生成反映,有助于责骂生成"幻觉"风险并提高透明度。
Symbeo是一家附庸于CorVel的公司,提供自动化应酬账款惩处决策。Symbeo贪图利用Amazon Bedrock Data Automation,从复杂的文档(如保障理赔、医疗账单等)中自动提真金不怕火数据。这将匡助Symbeo的团队更快速地处理理赔事务,并镌汰向客户回话的盘活时分。数字钞票治理平台Tenovos正在使用Amazon Bedrock Data Automation在大限制语义搜索中普及本色的复用率,复用率提高了50%以上,从简了数百万好意思元的营销用度。
Amazon Bedrock Marketplace现已精良可用,同期Amazon Bedrock Knowledge Bases中的推理治理功能、结构化数据检索、GraphRAG以及Amazon Bedrock Data Automation均已预览可用。此外,Luma AI、poolside和Stability AI的模子也行将上线。