AI加速進入企業流程，如何兼顧效率、資安與治理？

當AI Agent從回答問題走向取得資料、呼叫系統甚至執行任務，企業享受效率提升的同時，也面臨更複雜的資安與治理風險。前數發部部長黃彥男、Salesforce首席技術顧問馬西緯與大同大學徐家銘博士指出，企業導入AI時，應同步強化資安治理、建立可信任的系統機制，並培養員工判斷力，才能讓AI安全走進核心流程。

AI已從回答問題走向執行，當AI Agent開始取得資料、呼叫系統並執行任務時，企業面對的風險開始擴大，資安與治理機制成為必修課題。

《遠見》雜誌與《哈佛商業評論》共同成立的「AI數位轉型圈」，16日舉辦線上知識講堂，以「杜絕AI幻覺，掌握資安關鍵風險」為題，邀請前數發部部長、中研院資安專題中心執行長黃彥男、Salesforce首席技術顧問馬西緯、大同大學資訊工程系徐家銘博士，從AI發展趨勢、資安攻防到企業治理與人才培育，拆解AI導入後的新風險。活動吸引企業、醫療機構與教育單位逾200人線上參與。

前數發部部長、中研院資安專題中心執行長黃彥男指出，AI能力快速躍升，AI Agent更讓AI從提供答案走向執行任務，並能與其他AI協作。當AI開始處理過去只有人能完成的工作，企業必須重新思考人與AI之間的責任邊界。

風險首先出現在模型本身，例如訓練資料遭污染、資料偏見被帶入模型，或模型遭駭客透過提示注入、越獄攻擊操弄等。不僅如此，AI也成為攻擊者的工具，包括搜尋高價值目標、分析受害者資訊，再生成釣魚郵件與撰寫惡意程式來進行攻擊。

因此，企業除了要使用AI，更要建立可信賴的AI治理架構。黃彥男建議，從公平性、可究責性、透明度與倫理原則出發，進一步做好資料治理、AI評測、資安與人才培育，並依資料敏感程度與使用情境建立分級制度，釐清哪些資料可以使用雲端AI、哪些必須留在地端。