Gartner發(fā)布安全且大規(guī)模實(shí)現(xiàn)AI價(jià)值的四大新興挑戰(zhàn)

2024年第二季度Gartner對(duì)451名高級(jí)技術(shù)領(lǐng)導(dǎo)者進(jìn)行的一項(xiàng)調(diào)研顯示，57%的首席信息官（CIO）表示自身肩負(fù)著企業(yè)人工智能（AI）戰(zhàn)略的領(lǐng)導(dǎo)責(zé)任。然而，四大新興挑戰(zhàn)令CIO很難實(shí)現(xiàn)AI的價(jià)值。

Gartner杰出研究副總裁Mary Mesaglio表示：“由于技術(shù)供應(yīng)商之間的持續(xù)創(chuàng)新競(jìng)爭(zhēng)，CIO常常覺得自己身處技術(shù)炒作之中；但在推動(dòng)AI成果方面的事實(shí)——價(jià)值難以實(shí)現(xiàn)，又讓他們感到身處低谷?！?/p>

Gartner杰出研究副總裁兼院士級(jí)分析師Hung LeHong表示：“CIO其實(shí)可以掌控AI成果的推進(jìn)節(jié)奏。如果企業(yè)的AI目標(biāo)較為適中，并且所在行業(yè)尚未被AI顛覆，CIO可以采用相對(duì)穩(wěn)健的節(jié)奏，即AI穩(wěn)健型步伐（AI-steady pace）。如果企業(yè)的AI目標(biāo)更為宏大，或所在行業(yè)正被AI重塑，CIO就需要采用更快速的節(jié)奏，即AI加速型步伐（AI-accelerated pace）。無論是以AI穩(wěn)健型步伐還是以AI加速型步伐前進(jìn)，最終都必須推動(dòng)價(jià)值和成果的實(shí)現(xiàn)?！?/p>

在近期舉行的Gartner IT Symposium/Xpo開幕主題演講中，面向現(xiàn)場(chǎng)8,000余名CIO和IT高管，Gartner分析師闡述了如何應(yīng)對(duì)四大新興挑戰(zhàn)，以安全的方式大規(guī)模實(shí)現(xiàn)AI價(jià)值。

使用AI未必總能實(shí)現(xiàn)業(yè)務(wù)效益

使用生成式人工智能（GenAI）創(chuàng)造業(yè)務(wù)價(jià)值的前提是，必須在工作流中持續(xù)使用GenAI工具。2024年第二季度，Gartner對(duì)美國(guó)、英國(guó)、印度、澳大利亞和中國(guó)的5,000余名數(shù)字工作者進(jìn)行了調(diào)研。結(jié)果顯示，使用GenAI的員工平均每周可節(jié)省3.6小時(shí)，但并非所有使用GenAI的員工都能獲得同等程度的效益。

LeHong表示：“這是AI生產(chǎn)力面臨的真正挑戰(zhàn)。GenAI帶來的生產(chǎn)力提升并非均勻分布，而是因員工而異，這不僅是因?yàn)閭€(gè)人興趣和采用程度存在差異，還取決于工作的復(fù)雜程度和經(jīng)驗(yàn)水平。”

采用AI加速型步伐的企業(yè)機(jī)構(gòu)不僅尋求生產(chǎn)力方面的效益，還在尋求其他層面的改進(jìn)，包括運(yùn)營(yíng)和流程層面的改進(jìn)（例如實(shí)現(xiàn)關(guān)鍵業(yè)務(wù)流程的自動(dòng)化或重塑與聊天機(jī)器人協(xié)作的職位）以及業(yè)務(wù)層面的變革性改進(jìn)（例如能夠創(chuàng)造新收入來源或重塑企業(yè)價(jià)值主張的成果）。

Mesaglio表示：“在這種情況下，CIO應(yīng)像管理投資組合一樣管理AI收益，確定每個(gè)收益領(lǐng)域的投入大小，并平衡整個(gè)組合的風(fēng)險(xiǎn)與回報(bào)。”

AI成本可能會(huì)迅速失控

Gartner于2024年6月和7月對(duì)300余名CIO進(jìn)行的調(diào)研結(jié)果顯示，超過90%的CIO表示成本管理限制了其利用AI創(chuàng)造價(jià)值的能力。實(shí)際上，Gartner認(rèn)為成本是與安全或幻覺同等重要的AI風(fēng)險(xiǎn)。

根據(jù)Gartner的估算，如果不了解GenAI成本如何擴(kuò)展，CIO的成本計(jì)算可能會(huì)出現(xiàn)高達(dá)5到10倍的誤差。

LeHong表示：“CIO需要清楚AI的成本構(gòu)成，不僅要了解成本的組成和定價(jià)模式選項(xiàng)，還要掌握如何降低成本并與供應(yīng)商談判。CIO應(yīng)創(chuàng)建概念驗(yàn)證，除測(cè)試技術(shù)的可行性外，還要重點(diǎn)評(píng)估成本的擴(kuò)展情況?！?/p>

無處不在的數(shù)據(jù)和AI帶來了新的挑戰(zhàn)和風(fēng)險(xiǎn)

AI和數(shù)據(jù)在企業(yè)中廣泛應(yīng)用，已不再是IT部門直接控制的集中資產(chǎn)。Gartner對(duì)300余名CIO進(jìn)行的調(diào)研發(fā)現(xiàn)，未來平均只有35%的AI能力由內(nèi)部IT團(tuán)隊(duì)構(gòu)建。這意味著企業(yè)需要采取新的方法來管理和保護(hù)數(shù)據(jù)訪問、治理AI的輸入和輸出，并安全地實(shí)現(xiàn)AI價(jià)值。

在描述未來的AI技術(shù)堆棧時(shí)，LeHong表示：“這里將提及‘技術(shù)架構(gòu)組合’的概念。組合的底層是所有來自IT的資產(chǎn)，通常是集中的資產(chǎn)；頂部是來自企業(yè)各處的資產(chǎn)，通常是分散的資產(chǎn)；中間則是保證所有資產(chǎn)安全的信任、風(fēng)險(xiǎn)和安全管理（TRiSM）技術(shù)。這種組合框架有助于企業(yè)應(yīng)對(duì)各種類型的AI和數(shù)據(jù)。”

Mesaglio表示：“CIO應(yīng)當(dāng)設(shè)計(jì)一個(gè)技術(shù)架構(gòu)組合，既能應(yīng)對(duì)AI復(fù)雜性，又能對(duì)新的機(jī)遇保持開放。采取AI穩(wěn)健型步伐的企業(yè)機(jī)構(gòu)（AI項(xiàng)目不超過十個(gè)）將通過人類團(tuán)隊(duì)和委員會(huì)管理其技術(shù)架構(gòu)組合。采用AI加速型步伐的企業(yè)機(jī)構(gòu)將通過引入TRiSM技術(shù)——一系列用于建立信任、監(jiān)控風(fēng)險(xiǎn)、管理安全的技術(shù)，以確保大規(guī)模AI應(yīng)用的安全性?！?/p>

使用AI對(duì)員工績(jī)效和福祉來說是一把雙刃劍

有些員工可能會(huì)很喜歡AI工具，有些則會(huì)感覺受到威脅或產(chǎn)生反感。對(duì)AI的強(qiáng)烈反應(yīng)可能會(huì)引發(fā)意想不到的行為結(jié)果，進(jìn)而對(duì)員工的工作表現(xiàn)產(chǎn)生負(fù)面影響，例如對(duì)使用AI的同事產(chǎn)生嫉妒以及對(duì)AI工具的過度依賴等。

然而，很少有企業(yè)機(jī)構(gòu)在積極管理這些行為結(jié)果。Gartner在2024年6月和7月進(jìn)行的這項(xiàng)調(diào)研顯示，只有20%的CIO表示自己致力于減少GenAI對(duì)員工福祉的潛在負(fù)面影響。

“大多數(shù)企業(yè)不太關(guān)心員工對(duì)于AI的感受，但這一點(diǎn)其實(shí)很重要，因?yàn)锳I可能會(huì)引發(fā)各種意想不到的行為結(jié)果。”Mesaglio表示，“關(guān)鍵在于，通過變革管理解決這個(gè)問題時(shí)，企業(yè)必須明確行為結(jié)果的相應(yīng)負(fù)責(zé)人，像管理技術(shù)和業(yè)務(wù)成果一樣嚴(yán)格管理行為結(jié)果。”