生成式AI的話題相當火熱，近期輝達 (NVIDIA) 創辦人黃仁勳更在2023年台北國際電腦展上，展現生成式AI的應用與實力，從「文字轉換影像語音」，再到「即時作曲產出音樂」，這些技術通通難不倒生成式AI。而AI技術的背後，也需要仰賴龐大的技術團隊，才能完成不同的生成式AI模型。AWS也看出未來生成式AI開發的商機，順勢推出「Amazon CodeWhisperer」，讓軟體工程師能夠更快速的開發與編寫程式碼!
解析新服務 Amazon CodeWhisperer
打著「AI程式碼產生器」的響亮名號，AWS在2023年4月宣布推出Amazon CodeWhisperer，這個人工智慧（AI）程式碼編輯助手能在工程師團隊的整合開發環境（Integrated Development Environment, IDE）中，即時生成單行或完整功能的程式碼建議，協助您更快地開發軟體。從下方CodeWhisperer 功能預覽中可以看到，工程人員以「下指令」的方式告訴AI機器人所需要的程式碼，進而由CodeWhisperer產出相對應的資料。如此一來，不僅能提升工程人員的提升效率，更可以有效解決複雜程式碼的邏輯。
目前Amazon CodeWhisperer 推出「個人版」與「專業版」提供選擇。其中這兩項方案皆能夠提供無限制的程式碼建議、相對應次數的安全弱點掃描，以及參考追蹤。同時支援如Python、Java、C語言與C++等程式語言，讓您用一項生成式AI服務搞定所有程式碼建議。不僅如此，在專業版的服務上，更能夠與AWS Organizations 帳戶管理服務結合，輕鬆掌握CodeWhisperer 專業版的使用人數，以及所需花費。
| 個人版 | 專業版 | |
|---|---|---|
| 定價 | 免費 | USD 19 |
| 身分驗證 | AWS Builder ID | AWS IAM Identity Center (前AWS SSO) |
| 參考追蹤 | ✔ | ✔ |
| 程式碼安全掃描 | 50次 (每月) | 500次 (每位使用者每月) |
| 組織授權 & 政策管理 | ✖ | ✔ |
| 您也可能感興趣的「生成式AI 火熱話題」: 📍 AWS BedRock 與 Titan 模型 打造您生成式AI的應用程式 📍 應用AI前的停看聽 機器學習與深度學習是什麼 ? |
新Amazon EC2執行個體 高效執行生成式AI工作負載
除了推出新的軟體服務，硬體也得要與時俱進，AWS 在宣布兩個新的Amazon EC2 執行個體正式上線，要來強化企業在AWS雲端上建置生成式模型的運算能力。首先是「Inf」系列執行個體推出第二代的「Inf2」，強調低成本與高性能，適用於生成式人工智慧模型的運算，其中包含大型語言模型 (LLMs) 與視覺轉換器。相較於第一代的Amazon EC2 Inf1，Inf2 最高有4倍之多的網路吞吐量 (Throughput) 及高達10倍的低延遲性 (Low-latency)。現在企業可以在AWS的兩個區域 – 「us-east-1 (北維吉尼亞)」與「us-east-2 (俄亥俄)」使用Inf2 的執行個體，來建立與文字整合、程式碼生成、圖片與影片生成及個人化推薦等與生成式AI相關的應用程式。
另外早在 2022年的 AWS re:Invent 發表會中， 就推出「Trn1」的新執行個體，為AI發展備戰。Trn1 執行個體是為了「網路密集的生成式AI模型」而打造的，減少專家混合模型 (Mixture of Expert, MoE) 的機器學習任務50%的訓練成本，同時也提高20%的訓練時間。
面對生成式AI的大戰來襲，企業如何打造生成式AI的工作負載? 以及全面部署雲端AI模型，善用自動化與人工智能，備戰未來競爭力? 擁有全方位認證的博弘雲端，將帶領企業跨出數位轉型的第一步，接著採用更多與AI相關的雲端服務，協助打造全面自動化與具備人工智能訓練的應用程式，讓您在未來AI為王道的時代，抓準趨勢搶得先機，用AI技能開拓無限可能!
