生成式AI技術乃成為各個科技公司的兵家必爭之地，尤其語言生成更是家喻戶曉的技術。AWS在2023年推出 Amazon BedRock 大型語言模型後引發轟動，近期又再釋出兩樣的更新，分別包含「全新的Llama語言模型」與「負責任的AI」，讓您輕鬆又安全地運行生成式AI的應用程式，接下來就跟著博弘雲端一同了解這次AWS 在 Amazon BedRock 的各式新功能！
Amazon BedRock 全新導入 Meta 的Llama 3 語言模型
AWS在近日宣布，Meta所研發的的Llama 3模型現已在Amazon Bedrock上正式推出。Llama 3模型主要用意在幫助使用者構建、實驗和負責任地擴展其生成式AI的應用。Llama 3模型系列包括8B和70B兩種參數的規模，經過超過15兆個數據標記訓練，這一數據集的資料量，更是先前Llama 2第二代語言模型的七倍，整體資料的範圍更廣更大，讓訓練也能更加精準。
使用者現在可以在Amazon Bedrock中使用兩種新的 Llama 3 模型，而兩種模型分別又可以用在哪些地方？
- Llama 3 8B模型適合運算資源有限的設備，像是邊緣設備等，除此之外，也擅長文本摘要、文本分類、情感分析和語言翻譯。
- Llama 3 70B模型則適用於內容創作、對話式AI、語言理解、研究開發和企業應用，尤其在文本摘要和準確性、文本分類和細微差別、情感分析和推理、語言建模、對話系統、代碼生成和指令執行方面等表現相當出色。
- 目前Meta還在訓練參數超過400B的Llama 3模型，這些模型將具備新功能，包括多模態、多語言支持和更長的上下文解析
對於新手AI使用者來說，可以藉由Amazon Bedrock控制台分別申請使用Llama 3 8B Instruct或Llama 3 70B Instruct模型，從而輕鬆試驗和評估更多頂尖的基礎模型（FMs）。這次Amazon 推出這樣的更新，無疑替企業內部的AI開發者提供了更強大的工具和更大的靈活性，以應對廣泛的產業場景應用需求。
致力於負責任AI的開發 新增Guardrail功能強化安全
除了推出新的Llama 語言模型之外，近期生成式AI的安全議題也受到強烈關注。根據趨勢科技的調查發現，從去年（2023）生成式AI爆紅以來，社交工程、詐騙與網路犯罪也邁入新境界。有些駭客會使用 AI的功能，將偷來的資料中擷取出個人資訊，進而販售給其他網路犯罪集團，針對特定的對象進行攻擊。
有鑑於此，Amazon BedRock 新增了「Guardrail」的功能，做為企業應用程式與大型語言模型中的橋樑。Guardrail 的保護措施會自動評估從應用程式進到語言模型中的所有內容，且反之亦然，以檢測並防止屬於受限類別的內容。
如此一來，企業在Amazon BedRock 上採用Guardrail，不僅能夠做到導入AI的先驅，更能成為負責任使用AI的領頭羊。Guardrail 的功能不僅僅是提升基礎語言模型的安全功能，在實際生活中更可以阻擋超過8成5以上的有害內容，同時也是保障大眾使用這些具有生成式AI功能應用程式時的隱私權，一舉數得。（延伸閱讀：當生成式AI遇上資安 企業如何強化雲端安全？）
生成式AI的熱潮居高不下，現在AWS更推出相對應的語言模型應用及負責任AI要來搶攻AI藍海的市場。您也想知道企業能夠如何有效地運用AI，增加企業的效率與強化應用場景？立即聯繫博弘雲端，帶您掌握AWS生成式AI與企業的應用！
