劃重點
01人工智能教父Yoshua Bengio警告稱，我們正在創(chuàng)造比人類更強大的怪物，需要非常小心地控制這種技術。
02Bengio認為，OpenAI、Meta、谷歌、亞馬遜等大型人工智能公司在道德上都有偏見，但Anthropic在避免災難性后果方面表現(xiàn)最好。
03他表示，投資者應謹慎行事，避免犯下可能損害我們共同未來的錯誤和災難。
04此外，Bengio對人工智能芯片競賽表示，高端人工智能芯片功能將具有戰(zhàn)略價值，目前很少有公司能夠做到這一點。
以上內(nèi)容由騰訊混元大模型生成，僅供參考
鞭牛士報道，10月11日消息，據(jù)雅虎財經(jīng)報道，無論您認為人工智能將拯救世界還是毀滅世界，毫無疑問，我們正處于一個充滿熱情的時刻。眾所周知，如果沒有 Yoshua Bengio，人工智能可能就不存在了。
60 歲的本吉奧被稱為人工智能教父，是一位加拿大計算機科學家，他致力于神經(jīng)網(wǎng)絡和深度學習算法的研究。他的開創(chuàng)性工作為我們今天使用的人工智能模型開辟了道路，例如 OpenAI 的 ChatGPT 和 Anthropic 的 Claude。
「智能賦予權力，無論誰控制了這種權力無論是人類水平還是更高都將變得非常非常強大。」本吉奧在接受雅虎財經(jīng)采訪時表示�！缚偟膩碚f，技術被那些想要更多權力的人所利用：經(jīng)濟主導地位、軍事主導地位、政治主導地位。因此，在我們創(chuàng)造可能以危險的方式集中權力的技術之前我們需要非常小心�！�
2018 年，本吉奧與兩位同事前谷歌 ( GOOG ) 副總裁杰弗里辛頓（2024 年諾貝爾物理學獎得主）和 Meta ( META ) 首席人工智能科學家揚勒昆共同獲得了圖靈獎（有計算界諾貝爾獎之稱）。2022 年，本吉奧成為全球被引用次數(shù)最多的計算機科學家�！稌r代》雜志將他評選為全球100 位最具影響力人物之一。
盡管 Bengio 幫助發(fā)明了這項技術，但他現(xiàn)在已成為人工智能領域的謹慎之聲。這種謹慎是隨著投資者繼續(xù)對該領域表現(xiàn)出極大的熱情而產(chǎn)生的今年人工智能的股價創(chuàng)下了新高。
例如，人工智能芯片寵兒 Nvidia（NVDA）的股價今年迄今已上漲 162%，而標準普爾 500 指數(shù)的漲幅為 21%。
根據(jù)雅虎財經(jīng)的數(shù)據(jù)，該公司目前的估值高達 3.25 萬億美元，略微落后于蘋果 ( AAPL )，成為全球最有價值公司。
雅虎財經(jīng)采訪了 Bengio，談論人工智能可能帶來的威脅以及哪些科技公司做得對。
為簡潔起見，我們對采訪內(nèi)容進行了編輯。
為什么我們應該關注人類水平的智能？
「如果這些技術落入壞人之手，無論這意味著什么，都可能非常危險。這些工具很快就會幫助恐怖分子，它們也可能幫助那些想要摧毀我們民主的國家行為者。還有許多科學家指出的問題，也就是我們現(xiàn)在訓練它們的方式我們不清楚如何避免這些系統(tǒng)變得自主并有自己的保護目標，我們可能會失去對這些系統(tǒng)的控制。所以我們可能正在走上一條創(chuàng)造比我們更強大的怪物的道路。」
OpenAI、Meta、谷歌、亞馬遜哪家大型人工智能公司做得對？
「從道德上講，我認為表現(xiàn)最好的公司是 Anthropic（主要投資者包括亞馬遜和谷歌）。但我認為他們都有偏見，因為在經(jīng)濟結構中，他們的生存取決于成為領先公司之一，理想情況下是成為第一個實現(xiàn) AGI 的公司。這意味著一場競賽企業(yè)之間的軍備競賽，公共安全很可能是失敗的目標。
Anthropic 發(fā)出了很多信號，表明他們非常關心如何避免災難性后果。他們是第一個提出安全政策的公司，承諾如果人工智能最終擁有可能造成危險的能力，他們就會停止這種努力。他們也是唯一支持SB 1047 的公司，與 Elon Musk 一樣。換句話說，他們說“是的，經(jīng)過一些改進，我們同意提高安全程序和結果的透明度，并承擔責任，如果我們造成重大傷害�！�
您是否考慮過 Nvidia 等人工智能股票的大幅上漲？
「我認為可以確定的是長期的發(fā)展軌跡。所以如果你長期堅持，這是一個相當安全的選擇，除非我們無法保護公眾……[那么]反應可能是一切都會崩潰，對吧？要么是因為社會普遍反對人工智能，要么是因為真正災難性的事情發(fā)生了，我們的經(jīng)濟結構崩潰了。
不管怎樣，這對投資者來說都是壞消息。所以我認為，如果投資者夠聰明的話，他們應該明白我們需要謹慎行事，避免犯下可能損害我們共同未來的錯誤和災難�！�
對人工智能芯片競賽的看法？
「我認為芯片顯然正在成為難題的一個重要部分，當然，這也是一個瓶頸。隨著各種事件的發(fā)生和我可以預見的未來幾年的科學進步，對大量計算的需求很可能不會消失，因此擁有高端人工智能芯片功能將具有戰(zhàn)略價值供應鏈中的所有步驟都很重要。目前很少有公司能夠做到這一點，所以我預計會看到更多的投資，并希望實現(xiàn)多元化。」
您如何看待 Salesforce 到 2026 年推出 10 億自主代理？
「自主性是這些公司的目標之一，從經(jīng)濟和商業(yè)角度來看，這是一個巨大的突破，因為它將開辟大量應用。想想所有的個人助理應用。它需要比目前最先進的系統(tǒng)所能提供的更多的自主性。所以他們追求這樣的目標也是可以理解的。Salesforce（CRM）認為他們能在兩年內(nèi)實現(xiàn)這一目標，這讓我很擔心。我們需要在實現(xiàn)這一目標之前做好政府和技術方面的準備�！�
紐森州長否決了加州的 SB 1047 這是一個錯誤嗎？
「他給出的理由讓我聽不懂，比如不僅要監(jiān)管大型系統(tǒng)，還要監(jiān)管所有小型系統(tǒng)……事情可能會迅速發(fā)展我們討論過幾年。也許即使可能性很小，比如 10% [災難發(fā)生的可能性]，我們也需要做好準備。我們需要制定法規(guī)。我們需要讓公司已經(jīng)開始記錄他們正在做的事情，并且要讓整個行業(yè)保持一致。
另一件事是這些公司擔心訴訟。我與很多公司進行了交談，但已經(jīng)有了侵權法，因此如果它們造成損害，隨時都有可能提起訴訟。而該法案在責任方面所做的就是縮小訴訟范圍……有 10 個條件，你需要滿足所有這些條件，法律才能支持訴訟。所以我認為這實際上是有幫助的。但意識形態(tài)上存在著對任何參與的抵制任何與現(xiàn)狀不符的事情，任何國家對這些人工智能實驗室事務的更多干預�！�
