網站若想表達內容能否用於 AI 訓練,過去往往需要辨識不同業者的爬蟲,分別維護規則。OpenAI 在 10 月 30 日宣布,將遵循 robots.txt 裡的一項共通訊號,讓網站營運者一次向多家參與的 AI 供應商傳達訓練偏好。

這是一項自願性措施,建立在 IETF AI 偏好工作小組持續推進的工作上。OpenAI 預計未來幾個月實作,並另行公布細節。因此,現在可以確定的是支援方向,不能據此宣稱所有業者已採用,或新規則已在所有網站生效。

訓練偏好,與能否出現在 AI 搜尋中,要分開處理

官方明確表示,新訊號不會取代現有的 robots.txt 控制機制。依 OpenAI 爬蟲文件,GPTBot 與 OAI-SearchBot 的設定用途不同:前者涉及基礎模型訓練,後者用來協助網站出現在 ChatGPT 搜尋功能中,兩者可分別設定。

對經營內容網站或品牌官網的人,這個區分很重要。希望顧客透過搜尋找到文章,不代表一定同意內容用於訓練;不希望內容用於訓練,也不必先把所有搜尋入口一起關閉。實際規則應依各服務的官方文件決定。

共通訊號能減少維護工作,但它仍是網站向參與者表達選擇的方式。它本身不能代替會員權限、登入驗證或伺服器存取控制,更不代表網站會因此獲得授權收入。

品牌現在可以先整理哪些選擇

等待實作細節期間,網站團隊可先盤點自己的內容:哪些是希望公開曝光的產品資訊,哪些含有取得授權才能使用的照片、研究或合作素材,再確認現有爬蟲規則與內容政策是否一致。這是編輯部提出的管理建議,不是新標準已要求的操作步驟。

若網站由外包團隊管理,應留下規則由誰維護、修改原因與修改日期。等共通訊號正式公布後,再評估如何加入既有設定。現在還不適合拿一段未經官方確認的語法,直接覆蓋整份 robots.txt。