負責任的 AI 應用指南｜Otto Group one.O

負責任的使用AI 人工智慧準則

人工智慧（Artificial Intelligence，AI）是由人類所設計編程的，它符合人類的思考和行為模式、假設模式和文化上的影響，但到頭來它仍是一台機器。為了實現人機的負責任共存，我們應當討論「為什麼要協作」以及「如何協作」的相關問題。我們將道德標準納入演算法，維持一致的倫理規範，建立信任關係。

正因如此，在研發以人工智慧或統計學為基礎的自動化決策時，以下的發展指南對我們很重要。我們的首要任務是為人們發展 AI 應用，而不是反對使用。所以我們以監管架構、現行法規和道德標準作為應用原則，同時遵循 Otto Group 的道德守則（Code of Ethics）與 one.O 的企業價值。

1. 以人為本，人類主導 AI

人類的判斷與行動，始終優先於 AI。我們將 AI 定位為輔助決策的工具，最終的決定權仍掌握在人類手中。我們會持續監控 AI 系統的運作狀況，確保在任何異常發生時都能即時介入與調整。在日常作業中，我們定期驗證 AI 模型的表現。同時，透過清晰的視覺化呈現，讓任何潛在的偏差與問題都能一目了然。特別是在可能造成重大影響或影響使用者信任的情境，例如開發自動化機器人（Bots）或應用大型語言模型（LLMs）時，這種人類主導的原則尤為關鍵。因此，各專責單位必須明確評估 AI 的自主範圍，並指派負責監督與介入的專責人員。

2. 信任源自公開透明

AI 能否成功被接受，關鍵在於使用者看見它帶來的價值並建立信任。

對內透明
我們會在系統與流程中替使用者清楚標示哪些步驟由 AI 執行，並公開說明它的能力與侷限。能解釋的結果會以簡明方式說明成因。若較簡單、可追蹤的演算法就能達成目標且品質不受影響，我們會優先採用。這有助於團隊理解並快速發現問題。

對外信任

AI 的設計以提升顧客價值為核心。採小規模試行、分階段上線，並透過友善使用者（Friendly User Tests）測試與商業測試驗證（Business User Tests）成效。依循歐盟 AI 法規（EU AI Act），我們會向使用者界定工具的功能範圍（例如：AI 語音客服機器人負責處理常見問題，複雜需求則轉人工處理），並在監控與效能分析中持續找出改善空間，逐步優化體驗。

3. 非歧視、多元性、公平性

我們以公平與多元為核心，評估 AI 輸出結果、公示決策可逆機制，並審查外部服務的合規性與中立性。

結果的關鍵檢視

我們重視多元與公平，目標是讓模型做出不帶歧視的判斷。建模時會盡量採用具代表性的假設與資料，並在不同公平準則間進行權衡。完全消除偏差難以保證，因此上線後會持續監測生成式 AI 的使用和輸出、運行偏差檢測並以批判性角度評估結果，必要時調整模型與流程以減少不公平影響。

可逆性原則

我們遵循可逆性原則：所有 AI 輸出都必須保留人工覆核與撤銷機制，並記錄審查流程與決策紀錄。藉由人工介入，我們能補正錯誤、提高包容性，並確保系統符合歐洲無障礙法案（European Accessibility Act）等包容性要求。

外部 AI 解決方案驗證

導入外部生成式或其他 AI 服務前，我們會依據資料保護、政治中立、非歧視與相關歐盟指令等標準進行驗證。必要時會對外部方案做調整，以確保方案符合我們的原則與合規要求。

4. 永續性原則

我們以永續為先，優先採用簡單可行的方案，並在設計與部署時評估資源與碳排成本。只在必要且合適時才開發 AI；若較簡單的方法能達成目標，我們會優先採用並建議顧客使用。我們遵循資料最小化原則：只挑選模型真正需要的資料，並在可行時精簡模型，以強化資料保護、縮短保存期限並降低資源消耗。同時會評估 AI 的環境影響（例如二氧化碳排放），並優先採用較節能的模型與推論策略。

5. 安全可靠，避免受操控

我們重視 AI 在實務中的安全，因此積極防範惡意與非預期操弄，並依現行安全標準驗證，保護資料與 AI 的決策依據。特別是當系統需匯入外部資料時，我們會投入專門研究與驗證工作，確保資料來源與處理流程的可靠性。

我們的目標很簡單：AI 必須為人服務，不能對人造成傷害。面對生成式 AI，這一點更為重要。因此我們採取多層防護，例如推動「第二階段 AI 倫理審核（Second Instance）等機制」，在關鍵輸出上增加自動檢查，形成額外安全層級。對於會出現「幻覺（Hallucination）」的生成式模型，我們也透過多樣化測試、輸出比對與人工驗證等方法來降低錯誤資訊的風險，並在運行時持續監控異常行為。

6. 資料保護和治理

負責任的資料治理與安全儲存，不僅是我們身為 Otto Group 成員的義務，更是信任的象徵。我們重視個人與敏感資料的保護，並以透明方式告知：哪些資料被使用、由誰使用、以及使用目的。

7. 責任、歸屬與問責

我們明確界定並記錄每個系統與功能的責任歸屬，關鍵決策有人把關並保留可追溯紀錄。技術責任由相關單位承擔；依決策風險採用不同治理模式：關鍵決策採人為主導（Human‑in‑command，HIC）或人機互動覆核（Human‑in‑the‑loop，HITL），建議性或低風險情境則採人為監督式（Human‑on‑the‑loop，HOTL）。無論單一或共同負責，相關責任人需清楚其職責、接受必要訓練，並保留決策紀錄以利追溯。責任不得轉嫁給 AI，但可將特定任務自動化；法律上的責任與賠償事項則依適用法規處理。

8. 發展文化與未來導向

我們對 AI 的可能性充滿期待，願在可控環境下嘗試並從錯誤中學習。開發以小步快跑、密集監控為原則，初期採 HIC（人為主導）或 HITL（人機互動覆核），當可靠性與安全性驗證到位後，才考慮轉為 HOTL（監督式）。整體流程以責任為核心：定義監控指標、保留審查紀錄，並把學習回饋導入實務。我們希望成為領先者，抓住機會，同時準備好面對未來的挑戰。