視點(diǎn) 發(fā)自 凹非寺
量子位｜公眾號(hào) QbitAI

2GPU+2CPU就可以在本地微調(diào)自己的DeepSeek 671B / Kimi K2 1TB超大模型了。

這就是前兩天量子位介紹的明星開(kāi)源項(xiàng)目KTransformers，吸引了很多伙伴的關(guān)注。畢竟誰(shuí)不想在本地跑個(gè)自己的貓娘呢（誤）。

KTransformers如何實(shí)現(xiàn)更低成本的LoRA微調(diào)？與其他技術(shù)方案有什么不同？低成本高性能的微調(diào)方案對(duì)于大模型落地意味著什么？

于是，我們邀請(qǐng)到了KTransformers項(xiàng)目的兩位重要成員——

• 章明星，清華大學(xué)計(jì)算機(jī)系副教授，KTransformers項(xiàng)目主要指導(dǎo)老師
• 李沛霖，趨境科技KTransformers項(xiàng)目核心參與者

帶大家上手實(shí)踐如何用KTransformers+LLaMA-Factory在本地微調(diào)超大模型，也一起聊聊項(xiàng)目背景與最新進(jìn)展。

歡迎在「量子位」視頻號(hào)預(yù)約&觀看直播

直播嘉賓

章明星
清華大學(xué)計(jì)算機(jī)系副教授

章明星教授是KTransformers項(xiàng)目主要指導(dǎo)老師。其主要研究方向?yàn)橛?jì)算機(jī)系統(tǒng)機(jī)構(gòu)領(lǐng)域，相關(guān)成果在包括OSDI、SOSP、ASPLOS、HPCA、FSE、VLDB、ATC、EuroSys等國(guó)際頂級(jí)會(huì)議和期刊上發(fā)表論文二十余篇。曾獲ACM SIGSOFT 杰出論文獎(jiǎng)，IEEE TCSC、ACM SIGOPS等組織頒發(fā)的優(yōu)秀博士畢業(yè)論文獎(jiǎng)。獲得國(guó)家自然科學(xué)基金青年科學(xué)基金及博士后基金一等項(xiàng)目資助。博士畢業(yè)后進(jìn)入清華大學(xué)與深信服聯(lián)合培養(yǎng)的博士后計(jì)劃，負(fù)責(zé)創(chuàng)新業(yè)務(wù)孵化，擔(dān)任深信服首席算法技術(shù)專家，后任職創(chuàng)新研究院院長(zhǎng)。

李沛霖
趨境科技KTransformers項(xiàng)目核心參與者

李沛霖，目前就讀于西北工業(yè)大學(xué)計(jì)算機(jī)學(xué)院，即將進(jìn)入清華大學(xué)計(jì)算機(jī)系攻讀博士學(xué)位。參與了趨境科技引擎開(kāi)發(fā)，是KTransformers項(xiàng)目核心參與者，微調(diào)功能核心技術(shù)開(kāi)發(fā)人員。曾獲國(guó)家獎(jiǎng)學(xué)金，院長(zhǎng)獎(jiǎng)學(xué)金（全院所有年級(jí)僅1人），多次獲得國(guó)家級(jí)競(jìng)賽獎(jiǎng)項(xiàng)。

核心話題

• 認(rèn)識(shí)KTransformers項(xiàng)目：如何實(shí)現(xiàn)更低成本的LoRA微調(diào)？
• 手把手實(shí)操KTransformers
• 聊聊KTransformers背后的技術(shù)與思考

參與直播

歡迎在「量子位」視頻號(hào)預(yù)約&觀看直播

關(guān)于「365行AI落地方案」

AI技術(shù)的落地應(yīng)用不僅限于科技領(lǐng)域，它已經(jīng)滲透到各行各業(yè)，成為推動(dòng)產(chǎn)業(yè)升級(jí)的重要力量。因此，“365行AI落地方案”主題策劃應(yīng)運(yùn)而生，我們尋找各行各業(yè)中成功應(yīng)用AI技術(shù)的案例和方案，分享給更多的產(chǎn)業(yè)內(nèi)人士。