人工智慧（AI）正為我們與科技間的互動方式帶來革命性的影響，改變了我們在工作、旅遊、娛樂和生活層面上的樣貌，不過這僅僅是個開端。
下一階段是所謂的「可解釋的人工智慧」（explainable AI，亦稱為XAI），此種人工智慧的特點是能讓人類更容易理解其行為背後的成因。而它究竟是如何運作的？我們為何需要它？它又將如何徹底改變各產業（尤其是行銷業）的運作方式？
黑盒子裡的秘密：當前人工智慧的問題
人工智慧能創造的成果令人驚豔，此點無庸置疑。電腦不但能在極短的時間內處理巨量資料，還能自行學習、進行決策和採取行動，讓許多產業從此改變其思維模式。專業審計諮詢服務機構PricewaterhouseCoopers的調查顯示，人工智慧市值約為15兆美元。然而，當前的人工智慧卻有一個嚴重的缺點：缺乏解釋。
也就是說，人工智慧無法向人類解釋其決策和行動背後的成因，這項缺點在機器學習中有時又稱為「黑盒子」。舉例來說，所有的演算和決策過程都是在幕後進行，而人工智慧通常無法詳細的說明它做出某個決定的推理過程與原因。
這為什麼是個問題？因為人工智慧若無法解釋其決策成形的機制，則人類便無法對其產生信任，將導致人們質疑其行為；而「可解釋的人工智慧」有望解決這個問題。
「可解釋的人工智慧」是如何運作的？
「可解釋的人工智慧」具備資訊公開透明的特色，不但會告知與其互動的人員它做了何種決定、即將採取何種行動，還會說明它是如何根據現有的資料來達成最終的演算結果。「可解釋的人工智慧」能一面執行前述動作，一面維持高水準的學習表現。
目前的人工智慧將資料導入機器學習程序，進而取得所學到的功能，只是使用者會滿肚子疑問：它為何那樣做？它為何不做其他決定？它何時會成功？何時會失敗？我該相信它嗎？我又該如何修正錯誤？
相形之下，「可解釋的人工智慧」利用可解釋的介面進行新的機器學習程序，以產生可解釋的模型；這樣的技術應能回答上述所有問題。
同時，這也伴隨著某種程度的風險，因為人工智慧所做的決定是依其導入的資料而定，雖然「可解釋的人工智慧」能夠提升人類對其決策的信任，但如果資料本身有瑕疵，那這樣的信任也有可能成為某種「誤信」。
另一個問題是人工智慧如何好好地解釋其決定。倘若使用者（可能是沒有任何技術背景的一般人）無法理解其說明，則該解釋便毫無價值可言。科學家必須與使用者介面專家合作，並且納入解釋心理學的複雜機制，試著從使用者角度思考，才有可能解決這個問題。
為何需要「可解釋的人工智慧」？重點在於「風險」、「信任」及「控管」
當面對鉅額投資決策如安全系統相關的軍事、財政、自動駕駛車輛，或是醫療診斷服務，其相關的風險也相對巨大。因此，人工智慧須能針對其決策過程進行解說，以增加使用者對其能力的信任和信心。除了上述產業，其他許多產業應該也可從這項技術中獲益。
「可解釋的人工智慧」可以有效地協助外部的控管，因為在執行審計或查核作業的情境中，它可以實現完全的透明化，以及說明為何其決策在道德、社會和財政層面上均是最好的選擇，從而鼓勵企業採行最佳實務和高道德標準。它同時能強化外界對於企業的信心，讓企業股東放心。
它也有助於企業創新，因為人工智慧越先進，其在創新用途和新能力的開發上，功能也就越強大。在許多產業中（包含行銷業），與人工智慧互動很快地將成為商務日常行為。因此，使用者是否能在輕鬆、毫無疑慮的環境中與人工智慧互動，便是一件十分重要的事。
專家認為這樣的轉變可賦予行銷人更多能力，並有效地將人工智慧轉化成同僚的角色，而非僅是工具。
「人類需要知道人工智慧的行為成因，才有辦法給予相應的信任。」Appier首席資料科學家林軒田如此說道。「就像人工智慧圍棋軟體AlphaGo應用洞察下圍棋，『可解釋的人工智慧』也可從新的視角切入，向行銷人展示如何採用人工智慧進行更先進的數位行銷。例如，人工智慧可以在適當的時間點接觸到目標受眾，但如果『可解釋的人工智慧』有能力向人類說明其決策的過程，則行銷人便可更為深入地了解其行銷對象，並藉此規劃更有效的行銷策略。」
它還能引領出新的工作型態，也就是行銷人可以選擇接受或拒絕「可解釋的人工智慧」所提出的說明，並且詳細解釋其接受或拒絕的原因，讓人工智慧有機會針對不同情境學習。Appier首席人工智慧科學家孫民表示：「現今有很多很棒的提議並沒有獲得採納，這是由於人工智慧無法解釋其行為成因，導致人類忽視了其提案的潛力。」然而，這樣的情景很快地便不復存在。
美國國防高等研究計畫署（Defense Advanced Research Projects Agency）目前正在執行一項關於「可解釋的人工智慧」的計畫，該計畫預期將進行至2021年，其目的是啟動「第三波人工智慧系統」，讓機器能夠根據其對於上下文脈絡和作業環境的理解，建立基礎的解釋模型，以描述真實世界的各種現象。有些專家也預測未來的三至五年間，「可解釋的人工智慧」將成為現實產物。
「可解釋的人工智慧」無疑是人工智慧技術發展的下一步，它不但有能力取得人類的信任和信心，還提升了自身運作流程的透明度，因此企業更應該重視其潛力。