界面新聞記者 | 何柳穎
界面新聞編輯 | 江怡曼
AI浪潮正在重塑銀行業(yè)。
德勤今年8月發(fā)布的一份報告指出,曾經需要銀行投入大量人力才能解決的各類挑戰(zhàn)在人工智能時代或將迎刃而解。例如過往銀行職能部門需通過增加訓練有素的員工才能提升業(yè)績這一局面,人工智能技術將對其帶來變革性影響。AI技術的應用帶來了運營效能的巨幅提升,與雇傭更多員工相比,該技術能實現(xiàn)同等產能提升的邊際成本更低。
不僅如此,“游戲規(guī)則”或將被改寫。德勤表示,我們從與全球各大銀行的業(yè)務合作中發(fā)現(xiàn),領先創(chuàng)新機構正奮力推動跨越式轉變。人工智能將不再是“戰(zhàn)術工具”(即加速當前商業(yè)計劃的交付),而將升級成為“戰(zhàn)略決定因素”(即未來業(yè)務規(guī)劃將圍繞人工智能能力構建展開)。
“AI已經融入到銀行日常的營銷、服務、經營各個方面。”近日,圍繞銀行業(yè)的AI布局思路與實踐,招商銀行信息技術部副總經理俞吳杰接受了包括界面新聞記者在內的媒體采訪。俞吳杰談及,銀行日常工作中存在很多重復性的、簡單的流程化工作,而這恰巧是大語言模型能夠發(fā)揮作用的地方。
俞吳杰透露,針對AI與大語言模型,目前招行的重點在于智算平臺的建設?!?/span>原來的服務器集群叫通算平臺,和大模型相關的叫智算平臺。智算平臺既包含招行的訓練平臺,也包括推理平臺?!?/span>他提到,招行探索大模型的目標不是建立通用模型,而是在金融行業(yè)建設垂直領域的大模型。
銀行與AI
2022年11月,ChatGPT橫空出世,各大銀行迅速跟進。比如中國建設銀行啟動“方舟計劃”,推進金融大模型建設工程;中國工商銀行率先建成了全棧自主可控的千億級參數(shù)規(guī)模AI大模型技術體系。
從全球競爭看,國內多家金融機構在大模型方面已奪得先機。根據(jù)《麻省理工科技評論》發(fā)布的全球金融機構大模型領域專利創(chuàng)新排行榜,在全球金融機構大模型專利創(chuàng)新領域,中國申請量達1909件,占比超75%。從專利申請量看,有12家國內金融機構進入全球TOP20。
在俞吳杰看來,AI與銀行業(yè)適配性非常強。其稱,銀行有三個重要的“密集型”特征。 一是數(shù)據(jù)密集,包括客戶數(shù)據(jù)、行業(yè)數(shù)據(jù)、產業(yè)數(shù)據(jù)等;二是知識密集,包含大量的政策、法規(guī)、條款、合規(guī)等;三是人力密集,銀行需要開展大量的運營工作,無論是網點還是后臺的審核,都需要大量的人力。在這些方面,大語言模型能夠產生的價值面非常廣。
俞吳杰指出,大語言模型在銀行業(yè)的應用是全方位的。比如在營銷方面,可以借助大語言模型直接生成營銷文案,并由專人審核,確保內容正確合規(guī);服務質檢方面,過去人工客服接聽電話、記錄內容、整理歸類的流程可能需要五分鐘,但現(xiàn)在可以借助語音識別轉換成文本后交給大模型處理,可以把流程縮短到“秒”級,大幅提升工作效率;風控方面,招行的“天秤”風控平臺可以通過大量的神經網絡算法,將客戶的正常行為和風險行為區(qū)分,保障客戶資金安全......
而在大模型的開發(fā)應用過程中,小模型的使用價值也并未褪色。
俞吳杰認為,大模型的覆蓋范圍會越來越廣泛,因為它可復用,邊際成本會變低;而小模型需要專門的開發(fā),專門的部署,專門的維護,成本會高,但兩者一定會長期并存。“因為小模型有很好的解釋性與針對性,比如客戶的信貸額度評測,這需要很精準的數(shù)字要求,通常小模型的表現(xiàn)會更好,我們會持續(xù)用下去?!?/span>
如今在銀行業(yè),AI+趨勢已然明確,各大中小銀行應如何入局?
俞吳杰認為,從行業(yè)角度看,大語言模型是一項持續(xù)的、規(guī)模大的投資,包括建集群、招聘人才等,且資源都比較稀缺,并非所有銀行都適合大規(guī)模投入其中。銀行業(yè)之間的交流非常多,中小銀行機構可以復用一些業(yè)內經驗?!安唤ㄗh盲目跟風,尤其是一次性的大投入,目前大模型的發(fā)展還有很多變數(shù),包括通用大模型哪個更優(yōu),怎么部署等,都還在變化過程當中。建議中小銀行機構更多地做好行業(yè)交流學習,針對自身實際情況量力而為才是更合適的。”
通用與專業(yè)
2017年,招商銀行成立了AI實驗室,彼時的研究范圍主要是語音、語言、計算機視覺技術等。生成式AI浪潮襲來,招行于2024年年初建立了智算平臺。后續(xù),招行將持續(xù)提升推理集群和訓練集群算力效能。
俞吳杰尤其強調算力的重要性?!八懔τ谖磥淼拇竽P蛻檬莿傂孕枨螅瑳]有算力服務,場景很難擴展,體驗提升也有限。推理需要時間,你問它一個問題,它需要多久給你答案,這個是由算力決定的,算力必須持續(xù)增加?!?/span>
針對訓練模型集群的擴大,俞吳杰稱,招商銀行不會在通用大語言模型上花費更多精力,因為通用大語言模型在銀行業(yè)的運用有其弱點——對專業(yè)知識理解有限,在專業(yè)領域數(shù)據(jù)處理能力較弱。
囿于此,招行會在比較好的通用模型基礎之上,將足夠的專業(yè)領域知識給到大模型,“最起碼是銀行業(yè),未來還可能擴展到證券、保險等與銀行關聯(lián)性大的行業(yè)”。
如何“喂料”是關鍵問題之一?!叭缃衲軓幕ヂ?lián)網獲得的專業(yè)語料非常有限,更多的是招行幾十年來經營積累的專業(yè)語料給到大模型,否則算力再強也沒有實用性?!庇釁墙鼙硎尽?/span>
應用場景方面,俞吳杰認為,應用場景應選擇“三多”場景,即資金投入多、人工投入多、耗時多的各類場景,“AI在這些場景產生的價值會更大”。截至2024年10月,招行的大語言模型應用場景已超百個。
為進一步延伸應用場景,招行將自上而下、自下而上地進行嘗試。自上而下是做好規(guī)劃,在零售、批發(fā)、中后臺等領域探索應用空間;自下而上是了解一線需求,“最痛的點是什么,或者最能產生業(yè)務提效的點是什么,往往都是一線聽得到炮火的員工理解得最深”。
值得一提的是,招行的FinTech基金為以上嘗試提供了容錯成本?!皩τ诖笳Z言模型的基礎設施建設和應用,總行是全力支持,基本上都能通過FinTech基金走綠色通道。”俞吳杰談及。
人與機
技術總有缺陷,大語言模型亦不例外。
“風險之一是大模型幻覺,這對銀行的應用非常不利?!庇釁墙軓娬{。針對此,招行給出了兩個解決辦法,一是保留人工審核,二是應用檢索增強生成技術,讓大模型對接外掛知識庫。
“另外一個困難是資源消耗非常大。”俞吳杰稱,若性能沒有調優(yōu),等待時間很長,會影響客戶體驗。因此需要不斷擴大算力,提高性能。
“數(shù)據(jù)隱私也是一個比較大的考量因素,尤其在訓練環(huán)節(jié)里,一定不能使用客戶敏感信息?!庇釁墙鼙硎?,如果數(shù)據(jù)管理不夠嚴格,大語言模型可能會泄露隱私,因此招行在數(shù)據(jù)訓練的準備上非常謹慎。
“最后,大語言模型對于答案生成的可解釋性比較弱,你給他一個輸入,他會給你一個輸出,但為什么是這個輸出呢?”俞吳杰舉例稱,比如做貸款發(fā)放審批的時候,為什么機器審核結果有的是同意,有的是不同意?
在俞吳杰看來,大語言模型的神經網絡邏輯是一個“黑盒子”,在某些決策場景可能并不適用,這也意味著,大語言模型對場景是有選擇和要求的。
因此,為優(yōu)化客戶體驗,目前招行推行的是“人+數(shù)字化”的協(xié)同模式。俞吳杰認為,單獨由人來解決,有溫度但成本很高,解決不了規(guī)模效應問題;單獨由機器來解決,效率很高,但可能給部分客戶帶來糟糕的體驗。
“對招行而言,更重要的是怎么把兩者結合好。在產生規(guī)模效應、提高效率的同時,也能提升客戶滿意度,人機結合將是我們未來很重要的客戶服務形式?!?/span>
還沒有評論,來說兩句吧...