工具愈好用,有一件事愈容易被略過:AI 產出的東西一旦離開公司,它就不再是「AI 產出的東西」了。它是你的報價、你的回覆、你的承諾。客戶不會分。

一份報價單寄出去,上面印的是公司抬頭。一則客服訊息回出去,客戶記得的是品牌名。一份給客戶的分析出了個錯誤數字,對方要的不是解釋,是處理。這些場合裡沒有一個角色叫「AI」。只有你,和站在你對面的那個人。

01「AI 做的」不是一個當事人

先把最容易糊掉的一層講清楚。

AI 沒有身分,不能被追究,也賠不了錢。它不會出席,不會道歉,不會在下一次合作裡被扣分。所有這些後果,最後都會落回一個具體的公司、一個具體的人身上。

這件事目前連法律圈自己都還在吵。AI 代理的責任主體到底是誰,寫模型的公司、用模型的企業、還是按下送出的那個人,至今沒有定論。這篇文章不打算往那個方向走。法規怎麼定,是律師的事。真正值得中小企業現在就處理的,是更前面、也更土法煉鋼的一層:在外面替你劃線之前,你的公司自己劃過線沒有。

沒劃線的公司長什麼樣,其實有個很好認的樣子。出事之後開會,每個人講的都是實話,但沒有一句對得起來。用的人說「這是系統跑出來的」,寫流程的人說「我只是接了工具」,主管說「我以為有人在看」。三個人都沒說謊,只是這條流程從頭到尾沒有任何一格寫著誰的名字。

順帶一提,這種「說不出誰」的狀況不只發生在小公司。連把 AI 平台鋪到七成員工、每月吞下五十萬次查詢的顧問業龍頭,都曾經被人在兩小時內從一個沒設驗證的介面一路打進生產資料庫。事情爆開的時候,出面說明的是那家公司,不是那套 AI。規模不會豁免任何人,只會放大金額。

02把流程攤開,標出哪一步是 AI 產出

抽象講完了。接下來是可以今天下午就動手的部分。

拿一條真的在跑的流程出來,報價、客服回覆、月報、內容產出都行。把它拆成步驟,然後在每一步旁邊只標兩件事:

這一步的產出是誰生的?(人/AI/人改 AI)

這一步的產出會不會離開公司?

標完你會看到兩種格子。一種是內部消化型:AI 生完,還有下一關會看,錯了在裡面就攔下來。另一種是對外承諾型:這一步生完就出門,沒有下一關。

AI 產出多,本身不危險。危險的是對外承諾型那幾格上面,一個名字都沒有。

這件事在工程領域已經有現成的做法可以借。有一份被廣泛引用的實作,把「叫 AI 幫我做一個功能」這種一句話交辦,拆成七個各司其職的代理人,每個只做一件事、只拿必要的工具、對不可碰的範圍有明確規則。整條鏈最值得學的一點藏在後面:它只留了兩個人類審核點,故事核准一次、成品驗證一次。

兩個。不是每一步都攔,也不是全程放手。

這個數字才是重點。審核點設太多,等於沒設。沒有人會認真看第七次,最後全部變成點頭。審核點設成零,那就是把公司的信用押在一個沒有人讀過的輸出上。

有一家大型零售集團把這件事講得更白。他們整理 AI 落地卡住的原因,歸成四件事:數據、流程、驗收、習慣。而「驗收」那一欄下面寫的問題只有兩句:怎麼證明有效?錯了誰背鍋?

第二句才是真的關卡。答不出來的流程,會永遠停在「試用」狀態:沒人敢真的靠它做事,也沒人敢真的把它關掉。

03拍板的人,要看得懂他在拍什麼

假設你已經標好了,某一格寫著某位主管的名字。事情還沒完。

有一份整理談過一個很難堪的現象:AI 交出來的東西常常看起來完全正確,結構齊、用詞專業、格式漂亮,但它其實把五個不同的東西寫成了同一個名字,只是從表面看不出來。這種輸出最危險的地方不在於它錯,在於它錯得很體面。

一個看不懂內容的人在這種東西上簽字,簽的不是同意,是運氣。

所以拍板這件事要成立,得同時有三個條件,缺一個就退化成蓋章。

第一,這一格只能有一個名字。 管理學裡那套 RACI 很老,但它把一件事分得很乾淨:執行的人可以有好幾個,當責、也就是最後拍板的那一個,永遠只能是一人。兩個人一起負責,實務上的意思是零個人負責。

第二,拍板的人要有能力判斷。 這裡最容易踩的坑,是把審核派給流程上最有空的人,而不是最看得懂的人。同一份工作指導法拆解過這件事。教一個人做事要拆三層:重要步驟、關鍵要點、還有判斷理由。缺了第三層,員工只是在模仿動作,遇到沒見過的狀況就抓瞎。審 AI 產出正是那個「沒見過的狀況」天天發生的位置。

第三,要給他看得懂的東西。 這是多數公司真正缺的一環。丟一份三千字的 AI 產出給主管,說「你看一下」,那不叫審核。看得懂的版本長這樣:這份東西是用哪些資料生的、哪幾句是原文引用、哪幾句是模型自己補的、有沒有查不到出處的數字。工程上把這叫可追溯;翻成老闆的語言,就是「哪幾行是它編的,你要先幫我圈出來」。

隨機抽一份上週寄出去的 AI 產出,問那位簽核的人三個問題:這裡面哪一句你查過?哪一句你只是覺得合理?如果客戶明天打來問這個數字怎麼來的,你答得出來嗎?三題有一題卡住,那一格的審核就是名義上的。

04劃線這件事,只能自己來

到這裡會有一個很自然的反應:那總得有個標準吧,外面有沒有現成的規範可以抄?

短期內大概沒有。而且更實際的問題是,就算有,它也不會知道你們公司哪份文件不能外流、哪個客戶碰不得、哪種折扣一定要老闆點頭。這些線本來就只有你自己劃得出來。

好消息是,要劃的線比想像中少。工程上治理 AI 工具的做法會分成定義、發現、執行三層;而在管理端,有一份給決策者的檢核表把「誰負責」和「風險兜底」直接列進導入前必問的題目裡,順序擺在買工具之前。對一家中小企業來說,第一版只要回答四個問題就夠用了:

哪些資料 AI 碰得到、哪些碰不到?

哪些產出可以直接出門、哪些一定要人看過?

那個「人」是誰,一格一個名字?

錯了之後,多久會有人發現?

四題都用一頁 A4 寫得完。寫不完,通常代表流程本身也還沒理清楚,那是另一件更該先做的事。

還有一個容易被跳過的動作:把線寫下來,別只在會議上宣布。開會講過的規則存活期大約兩週。寫進流程文件、寫進那份誰都會打開的檢核表,它才會在半年後的某個星期五下午還在生效。而那通常正是出事的時間。

最後一件事跟工具無關,跟氣氛有關。如果一家公司裡「承認 AI 這次寫錯了」會被當成使用者的失誤,那沒有人會回報,錯誤就會一路滑到客戶手上才被發現。劃線的目的不是找人扛責,是讓錯誤在還便宜的時候被看見。這兩者長得很像,但員工分得出來。

字還是得人來簽

回到最前面那個問題。

過去 一份文件出門前,經手的每一雙手都是人的,責任鏈天然存在,不需要有人特別去畫

現在 鏈子中間多了一段沒有身分的環節,你不去接,它就是斷的

而接起來要做的事其實很基本:把流程攤開、標出哪一步是 AI 生的、在會出門的那幾格寫上一個人的名字、確認那個人手上有足以判斷的材料。四個動作,沒有一個需要懂技術。

設計能被信任,技術能被理解。 這句話用在 AI 治理上格外貼切。一套沒有人看得懂的審核流程,跟沒有審核流程,效果是一樣的。

這也是我們做 AI 流程診斷時會問的第一輪問題。問的不是工具清單。我們會把最近一個月寄出去的東西攤在桌上,一份一份問:這是誰簽的,他當時看到了什麼。

讓 AI 加速,讓人定錨。答案可以是機器寫的,字還是得人來簽。

為品牌築根,為數位開路。