ChatGPT是互聯(lián)網(wǎng)上最受歡迎的AI聊天機器人，這是有充分理由的。在過去三年中，AI改變了我們與周圍世界互動的方式，讓我們更容易做各種事情。無論你是在計劃旅行、試圖節(jié)省雜貨費用，還是在搜索特定信息，AI都能為你提供幫助。

雖然我是ChatGPT的粉絲，但我也了解它的局限性，你也應(yīng)該了解，無論你是新手還是專家。它很適合嘗試新食譜、學習外語或計劃假期，但你不應(yīng)該在生活中給ChatGPT完全的自由支配權(quán)。它并不是在所有方面都很出色——事實上，在很多事情上它可能相當不靠譜。

ChatGPT有時會產(chǎn)生幻覺信息并將其作為事實傳遞，它可能并不總是擁有最新信息。它非常自信，即使在完全錯誤的時候也是如此。（當然，其他生成式AI工具也是如此。）

當涉及稅務(wù)、醫(yī)療賬單、法庭日期或銀行余額等風險較高的情況時，這就很重要了。如果你不確定何時使用ChatGPT可能有風險，以下是11種你應(yīng)該放下AI并選擇其他選項的情況。不要在以下任何情況下使用ChatGPT。

1. 診斷身體健康問題

我確實出于好奇向ChatGPT輸入過我的癥狀，但得到的答案可能像你最可怕的噩夢。當你仔細研究潛在診斷時，你可能會從脫水和流感搖擺到某種癌癥。我胸部有個腫塊，把這個信息輸入了ChatGPT。果然，它告訴我我可能患有癌癥。實際上，我患的是脂肪瘤，這不是癌性的，每1000人中有1人會患。這是我的執(zhí)業(yè)醫(yī)生告訴我的。

我并不是說ChatGPT在健康方面沒有好的用途：它可以幫你為下次預(yù)約起草問題、翻譯醫(yī)學術(shù)語，并整理癥狀時間表，這樣你就能更好地準備就診。這可以讓看醫(yī)生變得不那么令人不知所措。然而，AI無法開化驗單或檢查你，它絕對沒有醫(yī)療事故保險。要了解它的局限性。

2. 照顧你的心理健康

ChatGPT當然可以提供接地技術(shù)，但當你的心理健康真正出現(xiàn)問題時，它無法接電話。我知道有些人將ChatGPT用作替代治療師。CNET的Corin Cesaric發(fā)現(xiàn)它在處理悲傷方面略有幫助，只要她時刻記住它的局限性。但作為一個有真實人類治療師的人，我可以告訴你，ChatGPT充其量只是一個蒼白的模仿，最壞的情況下非常危險。

ChatGPT沒有生活經(jīng)驗，無法讀懂你的肢體語言或語調(diào)，完全沒有真正同理心的能力。它只能模擬同理心。執(zhí)業(yè)治療師在法律授權(quán)和專業(yè)準則下運作，保護你免受傷害。ChatGPT沒有。它的建議可能失效、忽視危險信號或無意中強化訓練數(shù)據(jù)中的偏見。把更深層的工作——艱難、混亂的人類工作——留給真正受過專業(yè)訓練的人類來處理。如果你或你愛的人處于危機中，請在美國撥打988，或你當?shù)氐臒峋€電話。

3. 做出緊急安全決策

如果你的一氧化碳報警器開始響起，請不要打開ChatGPT詢問你是否真的處于危險中。我會先出去，然后再問問題。大語言模型無法聞到燃氣、檢測煙霧或派遣緊急救援隊。在危機中，你花在打字上的每一秒都是你沒有撤離或撥打911的一秒。ChatGPT只能處理你提供的零碎信息，在緊急情況下，這可能太少且太晚。所以把你的聊天機器人當作事后解釋器，而不是急救員。

4. 獲得個性化財務(wù)或稅務(wù)規(guī)劃

ChatGPT可以解釋什么是ETF，但它不知道你的債務(wù)收入比、州稅級、申報狀態(tài)、扣除項、退休目標或風險偏好。由于其訓練數(shù)據(jù)可能不包括當前稅務(wù)年度和最新利率上調(diào)，當你按下回車鍵時，它的指導可能已經(jīng)過時。

我有朋友將他們的1099總額輸入ChatGPT進行DIY申報。聊天機器人根本無法替代能夠發(fā)現(xiàn)價值幾百美元的隱藏扣除項或標記可能讓你損失數(shù)千美元錯誤的注冊會計師。當涉及真金白銀、申報截止日期和國稅局罰款時，請咨詢專業(yè)人士，而不是AI。另外，要意識到你與AI聊天機器人分享的任何內(nèi)容都可能成為其訓練數(shù)據(jù)的一部分，包括你的收入、社會保障號碼和銀行路由信息。

5. 處理機密或受監(jiān)管數(shù)據(jù)

作為科技記者，我每天都會收到禁令郵件，但我從未想過將這些新聞稿投入ChatGPT來獲得摘要或進一步解釋。這是因為如果我這樣做，該文本將脫離我的控制，落在第三方服務(wù)器上，超出我保密協(xié)議的保護范圍。

同樣的風險適用于客戶合同、醫(yī)療圖表或任何受《加州消費者隱私法》、HIPAA、GDPR或普通商業(yè)秘密法保護的內(nèi)容。這適用于你的所得稅、出生證明、駕駛執(zhí)照和護照。一旦敏感信息進入提示窗口，你就無法保證它存儲在哪里、誰可以在內(nèi)部審查它，或者它是否可能用于訓練未來的模型。ChatGPT也不能免受黑客和安全威脅。如果你不會將其粘貼到公共Slack頻道中，那就不要將其粘貼到ChatGPT中。

6. 做任何非法的事情

這一點不言自明。

7. 在學業(yè)上作弊

如果我說我從未在考試中作弊，那我就是在撒謊。在高中時，我用我的第一代iPod Touch偷看了一些我在AP微積分中難以記住的繁瑣方程式，這是我并不特別自豪的事情。但是有了AI，現(xiàn)代作弊的規(guī)模使那看起來非常溫和。

Turnitin和類似的檢測器每學期都在更好地識別AI生成的文章，教授們已經(jīng)能從一英里外聽出"ChatGPT的聲音"（謝謝你毀了我心愛的破折號）。停學、開除和吊銷執(zhí)照是真實的風險。最好將ChatGPT用作學習伙伴，而不是代筆人。如果你讓ChatGPT為你做作業(yè)，你也只是在欺騙自己失去教育機會。

8. 監(jiān)控信息和突發(fā)新聞

自從OpenAI在2024年底推出ChatGPT搜索（并在2025年2月向所有人開放）以來，聊天機器人可以在你詢問的那一刻獲取最新網(wǎng)頁、股票報價、汽油價格、體育比分和其他實時數(shù)據(jù)，并配有可點擊的引用，這樣你就可以驗證來源。然而，它不會自動流式傳輸持續(xù)更新。每次刷新都需要新的提示，所以當速度至關(guān)重要時，實時數(shù)據(jù)流、官方新聞稿、新聞網(wǎng)站、推送警報和流媒體報道仍然是你的最佳選擇。

9. 賭博

我確實在NCAA男子籃球錦標賽期間通過ChatGPT成功命中了三重連擊，但我永遠不會向任何人推薦它。我見過ChatGPT產(chǎn)生幻覺并提供關(guān)于球員統(tǒng)計數(shù)據(jù)、誤報受傷情況和輸贏記錄的不正確信息。我之所以能夠兌現(xiàn)，只是因為我對照實時賠率雙重檢查了每個聲明，即使如此我也是幸運的。ChatGPT看不到明天的比分，所以不要僅僅依靠它來讓你獲勝。

10. 起草遺囑或其他具有法律約束力的合同

ChatGPT很擅長分解基本概念。如果你想了解更多關(guān)于可撤銷生前信托的信息，盡管問。然而，當你要求它起草實際的法律文本時，你就是在冒險。遺產(chǎn)和家庭法規(guī)則因州而異，有時甚至因縣而異，所以跳過證人簽名或省略公證條款可能會讓你的整個文件被拋棄。讓ChatGPT幫你為律師建立問題清單，然后付錢讓律師將該清單轉(zhuǎn)化為在法庭上站得住腳的文件。

11. 制作藝術(shù)作品

這不是客觀事實，只是我個人的觀點，但我不認為AI應(yīng)該用于創(chuàng)作藝術(shù)。我絕不反對人工智能。我使用ChatGPT進行頭腦風暴和幫助寫標題，但那是補充，不是替代。盡管使用ChatGPT，但請不要用它制作藝術(shù)作品然后冒充是你自己的。這有點惡心。

Q&A

Q1：ChatGPT在健康診斷方面有什么風險？

A：ChatGPT可能會產(chǎn)生幻覺信息，給出錯誤的診斷建議。比如輸入胸部腫塊癥狀，它可能說是癌癥，但實際可能只是良性脂肪瘤。AI無法進行實際檢查或開化驗單，也沒有醫(yī)療事故保險保障。

Q2：為什么不能用ChatGPT處理財務(wù)和稅務(wù)問題？

A：ChatGPT不了解你的具體財務(wù)狀況，如債務(wù)收入比、稅務(wù)級別等個人信息。它的訓練數(shù)據(jù)可能不包含最新稅法變化，提供的建議可能已過時。另外，輸入的財務(wù)信息可能被用于AI訓練，存在隱私風險。

Q3：在緊急安全情況下為什么不能依賴ChatGPT？

A：在緊急情況下，大語言模型無法聞到燃氣、檢測煙霧或派遣緊急救援。每秒鐘都很關(guān)鍵，花時間打字詢問AI就是在浪費撤離或撥打911的寶貴時間。AI只能根據(jù)你提供的有限信息判斷，可能太少且太晚。