AICMTY.com
在周一接受VentureBeat采访时,亚马逊AWS负责数据和AI的副总裁斯瓦米·西瓦苏布拉曼尼亚负责监管所有AWS数据库、分析、ML和GenAI服务,他概述了周三上午的主旨演讲和周二上午AWS首席执行官亚当·塞利普斯基的主旨演讲。
他说,围绕GenAI的主要主题是,企业希望有灵活性和选择来使用来自不同供应商的不同模型,而不是被锁定在单一供应商或平台上,然而,他补充说,这些车型本身可能不足以提供竞争优势,因为随着时间的推移,它们可能会变得商品化,因此,企业的关键优势将是他们自己的专有数据,以及他们如何将这些数据与模型集成以创建独特的应用程序。
为了支持这一愿景,西瓦苏布拉马尼亚表示,亚马逊专注于强调两件事:发明:提供客户可以通过其基础服务访问的各种GenAI模型,以及客户可以用来构建和部署自己的GenAI应用程序的更好、无缝的数据管理工具。
他说,他的主题演讲将涵盖数据和GenAI之间的“内在共生关系”,以及GenAI如何不仅能从数据中获益,还能反过来增强和改进数据库和数据系统。
以下是西瓦苏布拉曼尼亚在Re:Inventent上暗示的一些亮点,就在两周前,微软在其竞争对手Ignite大会上展示了它将全力以赴开发GenAI:
在不到一分钟的时间里:AWS的Bedock于4月份推出,是一项完全托管的服务,允许客户使用通过API提供的基础GenAI模型。西瓦苏布拉马尼亚说,基岩正在变得更容易使用。他将以一些客户故事为特色,展示在基岩上构建应用程序是多么容易和快速,有些例子只需不到一分钟。他说,Booking.com、Intuit、LexusNexis和Bridgewater
Associates等客户都在使用Bedock创建有影响力的应用程序之列。
更多的LLM选择:通过BedRock,亚马逊已经向企业客户提供了像它自己的预先训练的粉底模型Titan这样的模型,以及来自第三方的粉底模型,比如AI21的《S侏罗纪》、Anthropic的Claude、Meta的Llama
2和稳定扩散,但预计将在这里看到更多行动,包括更多关于亚马逊与OpenAI竞争对手Anthropic的合作伙伴关系的行动,此前亚马逊在9月份对该公司进行了重大投资。西瓦苏布拉曼尼亚表示:“我们将继续在车型选择方面大举投资。”
向量数据库扩展:GenAI模型可以发挥作用的另一个领域是向量数据库,它支持跨图像、文本和视频等非结构化数据进行语义搜索。通过使用GenAI模型,矢量数据库可以找到与给定查询最相关和最相似的数据,而不是依赖于关键字或元数据。今年7月,亚马逊在预览模式下为其OpenSearch
Serverless推出了一个矢量数据库功能——矢量引擎。西瓦苏布拉马尼亚说,自推出以来,向量引擎已经获得了令人惊叹的牵引力,并暗示它可能很快就会普及。他还暗示,亚马逊可能会将矢量搜索功能扩展到其投资组合中的其他数据库。“你会看到,作为基岩的一部分,我们会让这件事变得更容易、更好,但也会在许多其他领域做到这一点。”他说。
Gen
AI应用:西瓦苏布拉曼尼亚还暗示了一些与企业GenAI堆栈的应用层相关的公告,他提到了一些已经可用并与GenAI模型集成的应用程序的例子,例如Amazon
QuickSite,这是一种允许客户创建和共享交互式仪表板和报告的无服务器工具,以及Amazon
HealthScribe,它通过分析患者与临床医生的对话自动生成临床记录,他说,这些应用程序的设计是为了方便那些可能没有任何GenAI或编码知识或经验的用户。
零ETL:对于具有复杂数据需求的企业来说,一个关键挑战是集成来自不同来源和格式的数据,而不必经历繁琐且昂贵的提取、转换和加载(ETL)过程,此过程涉及将数据从一个数据库移动到另一个数据库,通常需要数据转换和转换。为了避免这种摩擦,一些云提供商正在开发“结构”技术,这些技术使用开放和标准的格式进行数据交换和互操作性。微软一直在吹捧其面料计划,一些分析人士表示,它比亚马逊和谷歌更有优势,但西瓦苏布拉马尼亚表示,亚马逊一直试图为开发人员提供数据库选择,并将继续投资于其零ETL愿景,该愿景去年开始实施,整合了自己的一些数据库,如Aurora和RedShift。企业还希望在其数据库中存储和查询其矢量数据以及其他业务数据。“你将继续看到我们改进这些服务,”他说,并提到了亚马逊的Aurora
MySQL最近增加了对矢量搜索的支持,Aurora MySQL是一个基于云的关系数据库。你将看到我们在零ETL方面取得更大的、有意义的进展。
安全的GenAI定制,数据保存在客户自己的云中:一些AWS客户将在Selipsky和Sivarubramanian的主题演讲期间分享他们的故事,讲述他们如何通过进一步培训或微调来定制具有基础的GenAI模型,以适应他们的特定需求和领域。但他们这样做并不会损害他们的数据安全和隐私,因为他们的数据仍保留在他们自己的虚拟私有云(VPC)中,这是AWS云的一个安全且隔离的部分。西瓦苏布拉马尼亚说,这是AWS区别于其他云提供商的“一个很大的不同点”。
GenAI芯片创新:最后,亚马逊一直在开发自己的硅解决方案来支持GenAI。西瓦苏布拉马尼亚表示,AWS将提供其Nitro
Hypervisor和Graviton系列芯片的性能和采用情况的一些更新,这些芯片旨在为云计算提供高性能和低成本,他还将介绍该公司的Tradium和Inferania芯片,这两种芯片分别专门用于GenAI培训和推理。