OpenAI推出兩款採用MOE架構的開源大型語言模型OSS 120B和OSS 20B，其中OSS 120B雖有120B參數但實際運行只需啟用5.1B，大幅降低了硬體需求！代表從過去動輒兩三百萬的GPU投資，降到只需20-30萬的Mac電腦即可運行。搭配大數軟體的QubicX平台，企業可快速部署AI對話、RAG知識管理、OCR語音轉文字、自動合約生成等應用，且能在本地部署確保資料隱私。這標誌著企業AI私有化時代的來臨，讓中小企業也能以可負擔的成本享受頂尖AI能力，是企業進行AI轉型的最佳時機。
閱讀更多
隨著Llama3、Taide、Mistral、DeepSeek等開源大型語言模型的崛起，AI發展進入新紀元。本文深入探討如何在本地端運行和比較這些熱門開源模型，介紹LM Studio和Ollama等最佳本地運行語言模型解決方案以及適合生產環境的vLLM。透過分析MMLU、ELO評分、中文處理能力、性價比等關鍵指標，本文教你如何挑選合適的開源大型語言模型。文末提出企業擁抱開源AI的策略建議，如善用Llama3、DeepSeek等大模型進行垂直領域微調，打造AI Agent等，助你在開源時代贏得競爭優勢。
閱讀更多
我們身處數位化的時代，人工智慧發展一日千里。而ASR(自動語音識別)技術的進步，正深刻影響並改變人機互動的方式。什麼是ASR技術？它是如何實現語音轉文字的功能？它又將為我們的生活帶來哪些改變？讓我們一起來認識這項人工智慧時代最重要的語音技術。
閱讀更多
ChatGPT 的問世，讓我們深感人工智慧的奇點已經逼近！除了每個人都應該將 ChatGPT 融入日常生活和工作中外，企業更應早日領悟人工智慧所帶來的巨大變革，將其應用融入企業運營流程，甚至創造全新的人工智慧產品，以避免被人工智慧時代的變革淘汰。 企業應用 ChatGPT 的解決方案包含自行訓練一個大型語言模型，這需要龐大的資金、計算能力和專業人才，對大多數中小型企業來說並不適合。 然而，中小企業同樣可以通過詞嵌入或微調的方式，利用公司內部知識庫來拓展 ChatGPT 的能力，提升其問答水準，避免因人工智慧無法理解企業專業術語或內部流程而引發的問題。當然，無論是自建、詞嵌入或微調，企業仍需投入適量的人力資源，才能不斷調整和優化模型，確保模型達到預期效果。
閱讀更多