uraura
啲公司未必想 d data send 去 3rd party
Ads
10蚊跟機
https://www.newmobilelife.com/2024/12/31/nvidia-chat-with-rtx-download/
NVIDIA 最近推出免費下載的技術展示工具「Chat with RTX」，首次將基於 NVIDIA RTX 的生成式人工智能引入本地 Windows PC，實現快速、定制化的聊天機器人體驗。
本地生成式 AI 的技術突破
Chat with RTX 使用 NVIDIA TensorRT-LLM 軟件和 RTX 加速技術，結合檔案檢索增強生成（RAG），讓用戶在本地 PC 上運行生成式人工智能應用。只需一張 GeForce RTX 30 系列或更高型號的顯示卡，且配備至少 8GB 的顯示記憶體（VRAM），即可啟用這一功能。
NVIDIA 最近推出免費下載的技術展示工具「Chat with RTX」，首次將基於 NVIDIA RTX 的生成式人工智能引入本地 Windows PC，實現快速、定制化的聊天機器人體驗。
本地生成式 AI 的技術突破
Chat with RTX 使用 NVIDIA TensorRT-LLM 軟件和 RTX 加速技術，結合檔案檢索增強生成（RAG），讓用戶在本地 PC 上運行生成式人工智能應用。只需一張 GeForce RTX 30 系列或更高型號的顯示卡，且配備至少 8GB 的顯示記憶體（VRAM），即可啟用這一功能。
Butters_Stotch
Docker host Openwebui n8n
Free API key:
X-ai US$25 credit per month
Self host G4F
Deepseek-for-free
已經滿足大部分工作須要
Free API key:
X-ai US$25 credit per month
Self host G4F
Deepseek-for-free
已經滿足大部分工作須要
大棍巴
https://nvidianews.nvidia.com/news/nvidia-puts-grace-blackwell-on-every-desk-and-at-every-ai-developers-fingertips
128GB unified memory，好似好勁
先至3000USD
128GB unified memory，好似好勁
:^(
先至3000USD
Ads
大棍巴
https://www.reddit.com/r/LocalLLaMA/comments/1i5s74x/deepseekr1_ggufs_all_distilled_2_to_16bit_ggufs/?share_id=YVtSOsWGQ4QHreJX_oe1x
Ho L din
Ho L din
:^(
:^(
Ads