可稽核的 AI 決策

我們在哪裡停手,先講

TWMD 沒有下單路徑。不持有券商憑證、看不到部位、不決定部位大小,也無法送出、修改或取消任何一筆委託。任何賣你「可稽核 AI 交易」的人,賣的是一個面積比這大得多的東西——那個差別值得在對話開始前講清楚,而不是之後。

能被證明的是什麼

一個決策看到了哪些資料,以及那些資料在當時是不是可知的。每一次查詢都可以帶 as-of 日期,回應會說明它用哪個知識時間欄位過濾。每一個數值都能對應到一份簽章快照,而第三方——包含你的監理機關——可以用免金鑰端點與一支不 import 我們任何程式碼的腳本自行驗證。那是稽核軌跡的資料側,也正是通常缺席的那一側。

為什麼監理現在開始問

FSB 的諮詢報告承認,對 agent 逐筆做人工覆核已經不可行,並指向以 AI 監控 AI。那帶出一個沒有人喜歡的顯然問題:監控方憑什麼相信被監控方的資料?一份簽章快照加上一支獨立驗證器,是對那個問題的回答,而不是把它換句話說一遍。

試辦會長什麼樣

拿一個已經在跑的策略。加上 as-of 過濾重跑一次,比較結果——如果結果不同,原本那個就是在讀未來,而那件事值得在監理發現之前先知道。接著抽一批它的決策,把底下的資料列對已發布的快照驗證。這兩步都不需要我們碰你的下單流程,而且都會產出可以交給審查者的東西。

我們不會宣稱的事

證明建立的是完整性與來源,不是正確性:若交易所公布了錯誤的數字,證明會忠實地為那個錯誤數字背書。這裡沒有任何東西能證明模型推理得好、某筆交易適合客戶,或結果是好的。那些是關於你的模型與你的流程的問題,而一個宣稱能回答它們的資料商,應該被懷疑。

延伸閱讀

• FSB / IOSCO / SR 26-2 對照表
• 接到你的券商——以及我們在哪裡停手
• 你可以自己跑的檢查

本頁內容不構成投資建議。