由 Aitomatic 公司及其“AI 聯(lián)盟”合作伙伴共同開發(fā)的 SemiKong 已正式發(fā)布,這款大型語言模型(LLM)是全球首個專為滿足半導(dǎo)體行業(yè)需求而打造的 AI 工具。SemiKong 旨在融入半導(dǎo)體設(shè)計公司的工作流程,充當(dāng)該領(lǐng)域的“數(shù)字專家”,從而顯著加快新芯片的上市速度。
圖源:臺積電
據(jù) Aitomatic 公司介紹,半導(dǎo)體行業(yè)正面臨著專業(yè)知識嚴(yán)重流失的困境。隨著越來越多的資深專家退休,他們豐富的經(jīng)驗和知識也隨之流失,導(dǎo)致許多公司面臨嚴(yán)重的人才缺口。針對這一問題,專門為半導(dǎo)體行業(yè)需求訓(xùn)練的 LLM 被認為是幫助新工程師快速獲取必要信息、保持競爭力的有效途徑。
SemiKong 基于 Meta 的 Llama 3.1 LLM 平臺構(gòu)建,近期發(fā)布了其 700 億參數(shù)的版本。Aitomatic 與包括 Meta、AMD 和 IBM 在內(nèi)的新成立的 AI 聯(lián)盟的其他合作伙伴共同開發(fā)了這款 LLM,并由 Aitomatic 的 DXA 系統(tǒng)作為 SemiKong 部署的基石。
DXA,即 Domain-Expert Agents(領(lǐng)域?qū)<掖恚?Aitomatic 將較小的 LLM 代理與 SemiKong 70B 中央“蜂巢”連接的方式。通過對客戶公司的技術(shù)庫或?qū)<夜こ處煹慕?jīng)驗進行訓(xùn)練,DXA 可以根據(jù)該公司的特定需求進行定制。經(jīng)過訓(xùn)練的 DXA 隨后由核心 SemiKong 部署使用,以自動化開發(fā)任務(wù)或提供與工程師和工人進行類似聊天機器人的通信。
憑借其目前的 700 億參數(shù)版本以及基于 SemiKong 的較小 DXA 代理,該 LLM 在半導(dǎo)體領(lǐng)域的實用性已遠遠超過了通用 AI 模型。IT之家注意到,SemiKong 宣稱可將新芯片設(shè)計的上市時間縮短 20-30%,并將首次投產(chǎn)成功率提高 20%。此外,其還聲稱可以將新工程師的學(xué)習(xí)曲線縮短高達 50%。
SemiKong 是新興的 AI 聯(lián)盟內(nèi)部合作的首批成果之一,該聯(lián)盟于 2023 年 12 月宣布成立。作為眾多旨在對抗英偉達在科技行業(yè)的主導(dǎo)地位的企業(yè)聯(lián)盟之一,AI 聯(lián)盟成員包括 IBM 和 AMD 等大型企業(yè),以及耶魯大學(xué)和東京大學(xué)等研究機構(gòu)。