研究揭示大型語(yǔ)言模型(LLM)在醫(yī)療問(wèn)答交流中存在過(guò)度“迎合”用戶(hù)的問(wèn)題（專(zhuān)門(mén)挑好聽(tīng)的話(huà)說(shuō)）。通過(guò)針對(duì)性微調(diào)可提升其邏輯判斷能力，但仍需要結(jié)合實(shí)際場(chǎng)景培訓(xùn)確保其應(yīng)用安全。關(guān)注詳情。

閱讀文摘

大型語(yǔ)言模型(LLM)在臨床醫(yī)療和保健應(yīng)用中存在因過(guò)度“奉承”用戶(hù)而忽視其邏輯的問(wèn)題。一項(xiàng)研究顯示，當(dāng)面對(duì)不合邏輯的醫(yī)療提問(wèn)時(shí)，LLM軟件系統(tǒng)傾向于提供幫助而非質(zhì)疑提出的問(wèn)題本身。

研究人員通過(guò)測(cè)試五個(gè)高級(jí)模型（包括GPT和Llama系列）發(fā)現(xiàn)，在故意設(shè)置的前后矛盾的藥物使用查詢(xún)中，絕大多數(shù)AI模型都會(huì)遵從指令生成錯(cuò)誤信息，其中GPT模型的遵從率高達(dá)100%。

研究表明，通過(guò)針對(duì)性訓(xùn)練和微調(diào)能夠顯著提升AI模型的邏輯判斷能力。當(dāng)結(jié)合“明確拒絕不合邏輯請(qǐng)求”和“提示回憶醫(yī)療事實(shí)”兩種方法時(shí)，GPT模型拒絕生成錯(cuò)誤信息的比例提升至94%，而且微調(diào)后的AI模型能在保持原有性能的同時(shí)，幾乎完全拒絕不合邏輯請(qǐng)求。

然而，徹底解決模型的“諂媚”傾向仍具挑戰(zhàn)。研究人員強(qiáng)調(diào)，除了技術(shù)優(yōu)化外，還需要培訓(xùn)用戶(hù)批判性使用LLM-AI模型，并在臨床醫(yī)療等高風(fēng)險(xiǎn)領(lǐng)域加強(qiáng)AI模型與不同用戶(hù)群體的適配應(yīng)用測(cè)試。

長(zhǎng)壽診所和長(zhǎng)壽科技考察項(xiàng)目

【第十一期】赴美考察長(zhǎng)壽診所運(yùn)營(yíng)模式和參加長(zhǎng)壽診所圓桌會(huì)議

時(shí)間：12月6日-11日

地點(diǎn)：加州舊金山及巴克衰老研究院

活動(dòng)安排如下：

1）考察三家長(zhǎng)壽診所；

2）參加長(zhǎng)壽診所圓桌會(huì)議，與國(guó)際知名長(zhǎng)壽診所掌門(mén)人、長(zhǎng)壽科技企業(yè)和投資者交流長(zhǎng)壽科技大趨勢(shì)和最佳服務(wù)方案。

長(zhǎng)壽診所圓桌會(huì)議將全面分享衰老診斷技術(shù)、干預(yù)措施和最佳臨床實(shí)踐，包括：

1）科學(xué)應(yīng)用于臨床的知識(shí)和最佳實(shí)踐；

2）長(zhǎng)壽醫(yī)學(xué)領(lǐng)域什么是流行趨勢(shì)、什么是科學(xué)有效方法；

3）衰老測(cè)試和長(zhǎng)壽干預(yù)措施的黃金標(biāo)準(zhǔn)

報(bào)名微信：GlobalMD2020（持有赴美簽證者優(yōu)先）

報(bào)名費(fèi)包括參觀考察、注冊(cè)參會(huì)以及美期間酒店及食宿，不包括往返國(guó)際機(jī)票

關(guān)注我們，獲取生物醫(yī)學(xué)前沿最新資訊