科技巨頭及新創企業暫緩大型AI開發訓練計畫,轉向中小型模型
市場關注成本低且穩定小型AI模型
美媒報導,當前科技巨頭及新創企業暫緩大型AI開發訓練計畫,轉向便宜、快速且專業中小型AI模型,且僅需相對少量資料訓練特定功能。
AI模型規模越小所需運算能力越少、開發成本越低,企業透過「微調」集中特定少量資料進行特定功能AI模型訓練,其效用等同大型AI模型且成本較低。訓練OpenAI GPT-4等大型AI需超過1兆個參數,開發成本超過1億美元;小型AI所需少於100億個參數,成本低於1千萬美元。
微軟為首批對生成AI領域投入數十億美元大型科技企業之一,其察覺營運成本遠超過預估效益,近期推出小型AI模型Phi規模僅ChatGPT百分之一,另推出內建AI筆電可提供數十種模型進行搜尋及圖像生成,無須再經雲端使用超級電腦運算功能。Google以及AI新創Mistral、Anthropic、Cohere發布新小型AI模型;蘋果本年6月則發佈AI發展計畫,規劃將小型AI用於手機軟體提升速度及安全性;OpenAI則擬推出規模小且成本低之小型AI。
鑒於AI投報率前景尚未明確,企業及消費者基於商業現實考量持續尋找較為便宜的生成式模型。企業「微調」AI模型訓練及使用,例如AI新創Snorkel AI基於客戶業務需求提供客製化小型AI模型;信評機構Experian將小型AI應用至財務建議及客服聊天機器人,以取代大型AI模型。惟業界仍未放棄大型AI模型開發,蘋果已宣布將ChatGPT導入Siri語音系統以利進行撰寫電郵等複雜指令,微軟最新版本Windows系統則將整合OpenAI最新模型。(資料來源:經濟部國際貿易署)
|