2023 年度最受矚目的雲端技術盛事 AWS re:Invent,在為期一週的活動中有相當豐富的議程,涵蓋各式各樣的主題讓雲端技術人員與夥伴進行交流。其中 AWS 執行長 Adam Selipsky在這次的盛會當中,分享AWS雲端如何在新技術的變革下不斷創新,並且在AI與機器學習、資料處理與基礎設施等解決方案中加以著墨,分享了10項新解決方案。博弘雲端獨家與遠在拉斯維加斯舉行的AWS re:Invent 盛會連線,零時差分享本次年度雲端技術盛會所發表的各類型雲端解決方案!
再造生成式AI浪潮!AWS宣布與NVIDIA及Anthropic在軟硬體的深度合作
生成式AI的議題仍受到大量的關注,AWS 2023 年度的re:Invent 可說是再造生成式AI的浪潮,宣布與人工智慧運算的領導品牌NVIDIA與AI系統開發商Anthropic的深化合作,並且同步推出各項AWS本身的生成式AI的新服務及新功能:
深化合作:AWS & NVIDIA
本場演講中的最大亮點是,NVIDIA 創辦人黃仁勳上台與AWS CEO進行互動。在深化合作的專案中,首先是Nvidia GH200 Grace Hopper 的超級晶片將能夠在AWS上使用,讓企業可以近一步在大型語言模型 (Large Language Models, LLM) 與AI模型的訓練上有顯著的成長。另外一項亮點則是,NVIDIA的AI超級運算機器DGX Cloud即將搬遷上AWS,雙方的合作更展現在AI硬體發展上佈局的決心。
新合作:AWS & Anthropic
除了與NVIDIA在生成式AI硬體面的合作之外,AWS也宣布與AI系統開發商Anthropic結盟。Anthropic 未來將使用AWS Trainium和Inferentia晶片來構建、訓練和部署其 Claude 內容生成與總結的底層模型 (Foundation Models, FMs)。兩家合作夥伴還將在未來在Trainium和Inferentia的技術開發上合作。
新機器:AWS Trainium 2
為了讓生成式AI的工作負載有更好的表現,AWS推出 Trainium 2 (Trn2) 新的執行個體,讓使用者能夠運用數十兆的參數 (parameters)來優化底層模型(Foundation Models, FMs) 的訓練。比起前一代AWS Trn1的執行個體,Trn2有4倍以上的效能,且針對超級電腦可以提供65百億億次的即時需求。
新功能:AWS BedRock 的三項客製化能力與Agent功能
AWS 早在2023年初就推出大型語言模型訓練 BedRock 的服務,要在生成式AI的發展中強佔一大席次。而這次在AWS re:Invent 當中也讓BedRock 服務內的三項客製化功能亮相,其中包括Fine Tuning(文字優化)、Retrieval Augmented Generation (RAG) with Knowledge Bases (底層模型會運用文本資料再優化其回答的內容)與Continued Pre-training for Amazon Titan Text Lite & Express(持續預訓練以精進語言模型)等。
不僅如此,Amazon BedRock 也有全新的Agent 功能。藉由選擇底層模型的類別、提供基本資訊、詳載Lambda 函數,並選擇相對應的資料來源,就能建立Agent。所有步驟化繁為簡,只要點擊幾下,企業就能量身打造組織內部的生成式AI應用程式。舉例來說,今天有一家保險公司要運用BedRock來處理保險理賠相關流程,則可以使用Agent 來打理一切,加快效率。
新功能:Guardrails for Amazon Bedrock
在強調負責任的AI世代,保障企業的隱私與提升資安更顯得至關重要。Amazon BedRock 不僅提供三項新的客製化的能力以及Agent 的功能,更結合 Guardrails 的服務,運用負責任的政策設定(Policies),來保護生成式AI應用程式、過濾有害的文章,以及消除敏感的資料等,體現負責任AI的精神。在便捷使用生成式AI的同時,AWS也提供相對應的資安服務,彰顯出生成式AI發展之下,資安保護也需要跟上科技的發展。
新服務:Amazon Q
由生成式AI驅動的個人助理,協助企業在AWS環境的部署與建置上,可以利用Amazon Q來獲得最佳解方。舉例來說,企業可以詢問Amazon Q如何在AWS上建立一個Web應用程式,而Amazon Q會根據17年來的雲端服務經驗,依照企業的需求提供部署建議。另外,Amazon Q也能夠與第三方應用程式如Zendesk、Google Drive及Microsoft 365等40種常用的資料來源整合,提供業務上的建議。
除此之外,AWS也推出Amazon Q Code Transformation,能夠讓工程師在程式語言版本頻繁更新的情境下,兩天之內就改版 1000 個 java 應用程式。另外,Amazon Q還可以跟現有AWS服務做結合,像是在AWS視覺化儀表板Quicksight 中與商業智能(BI)做結合,用自然語言提供圖表中更多的洞察,以及在Amazon Connect 客服服務中提供即時的客戶溝通,優化客戶體驗。
資料處理服務再升級!新功能與解方提升數據分析的效率
數據分析也是現今企業在部署資料科學相關解決方案時面臨到的挑戰。無論是數據資料的預處理,抑或是整合,都是間接造成企業數據孤島的主要原因。因此2023年度的AWS re:Invent 中,有兩大數據分析新解方:
新功能:三項資料庫服務與零 ETL 整合
2022 年 AWS re:Invent 就宣布了Amazon Aurora 與 Amazon Redshift 的零 ETL 整合。而今年度(2023)在資料處理的服務上,更新增三項資料庫服務支援與Amazon Redshift 的零 ETL 整合工作,包含Amazon Aurora PostgreSQL、Amazon RDS MySQL及Amazon DynamoDB,提升資料前期處理的效率。 除此之外,現也開放Amazon DynamoDB 非關聯式資料庫與 Amazon OpenSearch Service 零ETL整合。
新功能:Amazon DataZone AI 推薦
Amazon DataZone 是一項資料管理服務,現在推出增生成式AI推薦的功能,自動新增商業文本(Business context)到資料目錄中,產生資料及其架構的詳細描述,並建議分析案例,只需點擊一下即可產生全面性的業務上下文,讓企業更容易理解如何使用資料。
新基礎設施嶄新亮相!增加運算與服務間溝通的效能
新功能 Amazon S3 Express One Zone
AWS 執行長宣布Amazon S3 物件式儲存空間服務將迎來全新的變革,推出「Express One Zone」的儲存級別。相較於傳統的 Amazon S3標準儲存,可以節省5成的成本,以及提供比起標準S3高出10倍的性能表現,減少S3與EC2之間溝通的延遲性。
新機器: AWS Graviton 4
在另外一項基礎設施的更新中,AWS推出Graviton 第四代的處理器,並且能夠在「R8g」的執行個體當中使用,提供需要仰賴高度記憶體的工作負載有絕佳的表現,比起上一代的Graviton 處理器增加30%的效能。
在2023年度的AWS re:Invent 當中,多數的新服務以生成式AI作為主軸,而接下來還有哪些創新的AWS雲端技術發展?鎖定博弘雲端來自拉斯維加斯的獨家第一手消息!