素有“AI 教父”之稱的 Geoffrey Hinton 日前在接受紐約時(shí)報(bào)采訪時(shí)高調(diào)透露，他已在上個(gè)月辭去了 Google 副總裁和工程 fellow 的職務(wù)，目的是為了能不受制約地警告人們警惕 AI 的潛在風(fēng)險(xiǎn)。Geoffrey Hinton 擔(dān)心 Google 會(huì)為了和 ChatGPT、Bing 等服務(wù)競爭，而放松對公開發(fā)布 AI 的約束，而這也許會(huì)引發(fā)一系列的倫理問題。

在短期內(nèi)，Hinton 認(rèn)為生成性 AI 或?qū)⒁l(fā)不實(shí)信息的狂潮，而在未來人工智能不僅會(huì)消滅“繁重的工作”，許多職業(yè)的從業(yè)者都可能被其取而代之。更長遠(yuǎn)來看，Hinton 對完全自主武器誕生的可能性以及 AI 模型從訓(xùn)練數(shù)據(jù)中習(xí)得奇怪行為的趨勢都感到擔(dān)憂。隨著這些問題中有許多都只存在于理論層面，但 Hinton 覺得若沒有及時(shí)準(zhǔn)備好相關(guān)法規(guī)和有效的控制措施，那這種升級將變得無法遏止。

Hinton 對 AI 的立場是從去年開始轉(zhuǎn)變，當(dāng)時(shí) Google、OpenAI 等公司都已經(jīng)開始開發(fā)在 Hinton 認(rèn)知中優(yōu)于人類智能的 AI 系統(tǒng)。他認(rèn)為 AI 在過去五年里發(fā)展神速，而未來五年可能發(fā)生的事情將是“非常可怕”的。不過在發(fā)給主站的聲明中，Google 首席科學(xué)家 Jeff Dean 強(qiáng)調(diào)他們?nèi)詫⒅铝τ诓扇　柏?fù)責(zé)人的方法”，并對“新出現(xiàn)的風(fēng)險(xiǎn)”保持警惕。

Hinton 在職業(yè)生涯中研究的重點(diǎn)領(lǐng)域便是對 AI 至關(guān)重要的神經(jīng)網(wǎng)絡(luò)，他最為人所熟知的成就是在 2012 年開發(fā)出了一套能透過圖像訓(xùn)練辨識物體的神經(jīng)網(wǎng)絡(luò)方案。Google 在 2013 年收購了 Hinton 的 DNNresearch 初創(chuàng)公司，生成式 AI 能發(fā)展到如今的程度，Hinton 當(dāng)年發(fā)明背后所用到的技術(shù)也是起到了一定的推動(dòng)作用的。

實(shí)際上，除了 Hinton 以外，業(yè)界有不少專家都曾提議放慢 AI 的發(fā)展節(jié)奏。以 Elon Musk、Steve Wozniak 為首的多名科技領(lǐng)袖、AI 從業(yè)者在三月末時(shí)便簽署了公開信，呼吁人工智能實(shí)驗(yàn)室和相關(guān)企業(yè)在至少六個(gè)月內(nèi)不要訓(xùn)練超過 GPT-4 的技術(shù)。作為行業(yè)最杰出的人物之一，Hinton 的表態(tài)也是有著相當(dāng)份量的吧。