AI Technology
NVIDIA NIM 簡介
NVIDIA NIM是NVIDIA AI Enterprise的一部分,提供了預先建置且最佳化的AI模型,大幅縮短了部署時間,讓使用者能夠透過標準化的方式,簡單將生成式AI加入應用程式,顯著提高開發人員的工作效率,並且可以在雲端、資料中心、工作站和PC上運行。
簡單幾行程式碼即可呼叫NVIDIA API。使用Langchain和LlamaIndex等偏好的LLM程式設計框架部署應用程式。
另外,NVIDIA 於8/27發布Llama-3-Swallow-70B、Llama-3-Taiwan-70B,這些微服務支援社群常用的各種模型,並且針對地區需求量身打造。可以按照當地語言和文化傳統,透過準確理解和改善的回應,強化與使用者的互動。
參考來源:NVIDIA
https://www.nvidia.com/zh-tw/ai/