兩位開(kāi)創(chuàng)性科學(xué)家安德魯·巴托和理查德·薩頓因其在人工智能訓(xùn)練技術(shù)領(lǐng)域的卓越貢獻(xiàn)，榮獲了2024年圖靈獎(jiǎng)。他們?cè)陬I(lǐng)獎(jiǎng)之際對(duì)目前人工智能開(kāi)發(fā)中的安全隱患表達(dá)了深切擔(dān)憂。

巴托是馬薩諸塞大學(xué)的研究員，而薩頓曾是DeepMind的研究科學(xué)家。他們指出，許多人工智能公司在產(chǎn)品尚未經(jīng)歷充分測(cè)試的情況下便急于推向市場(chǎng)，這種做法無(wú)異于“建造一座橋，然后通過(guò)讓行人使用來(lái)測(cè)試其安全性”。

圖靈獎(jiǎng)被譽(yù)為“計(jì)算機(jī)界的諾貝爾獎(jiǎng)”，獎(jiǎng)金高達(dá)100萬(wàn)美元。此次巴托和薩頓憑借開(kāi)發(fā)“強(qiáng)化學(xué)習(xí)”技術(shù)而共同獲獎(jiǎng)。強(qiáng)化學(xué)習(xí)是一種通過(guò)試錯(cuò)訓(xùn)練人工智能系統(tǒng)做出優(yōu)化決策的機(jī)器學(xué)習(xí)方法。谷歌高級(jí)副總裁杰夫·迪恩稱(chēng)這一技術(shù)是“人工智能進(jìn)步的關(guān)鍵”，并且一直是推動(dòng)人工智能發(fā)展的“核心支柱”，包括OpenAI的ChatGPT和谷歌的AlphaGo等突破性模型都受益于此。

在接受《金融時(shí)報(bào)》采訪時(shí)，巴托表示：“在沒(méi)有安全措施的情況下向數(shù)百萬(wàn)用戶發(fā)布軟件，這并不是良好的工程實(shí)踐。工程實(shí)踐的演進(jìn)本應(yīng)是為了減輕技術(shù)可能帶來(lái)的負(fù)面影響，但我并未看到開(kāi)發(fā)人工智能的公司遵循這一原則。”

人工智能開(kāi)發(fā)的安全性問(wèn)題早已引起廣泛關(guān)注。被稱(chēng)為“人工智能教父”的約書(shū)亞·本吉奧和杰弗里·辛頓也曾對(duì)此提出批評(píng)，他們同樣是圖靈獎(jiǎng)的獲得者。

巴托認(rèn)為人工智能公司過(guò)于“受商業(yè)利益驅(qū)動(dòng)”，而忽視了人工智能研究的深入發(fā)展。