親愛的讀者：
見字如面，很高興通過書信這一傳統(tǒng)的方式來進(jìn)行交流，感覺既熟悉又奇特，雖然每天有大量的電子郵件往來，但距離上次寫信已經(jīng)過去了十多年。
過往的十多年移動(dòng)互聯(lián)網(wǎng)的迅猛發(fā)展改變了很多的事情，信息的傳遞和交互變得越來越快、個(gè)人的信息吞吐量也變得越來越大、物理的距離變得越來越不可見、移動(dòng)設(shè)備變得越來越成為個(gè)體的一部分、我們對(duì)已知變得越來越自信、對(duì)未知卻變得越來越焦慮。而2023年之后，你一定在好奇人工智能能強(qiáng)到什么地步，能發(fā)揮什么樣的作用，對(duì)個(gè)體和社會(huì)有什么長遠(yuǎn)的影響。
如果能向通用智能提一個(gè)問題，不知道你會(huì)問什么�？赡苣銜�(huì)問明天哪只股票會(huì)漲停。但我會(huì)問，“HI，AI，你對(duì)我有什么問題？”硅基智能被認(rèn)為擁有和人類一樣的思考方式似乎在一夜之間發(fā)生，盡管在此之前，人類已經(jīng)為此努力了數(shù)十年。
正如歷史上每次關(guān)鍵性的科技變革，AI技術(shù)的指數(shù)級(jí)增長帶來的第一個(gè)社會(huì)疑問不僅是“你能為我做什么？”更是“你會(huì)給我惹什么麻煩？”從當(dāng)下的數(shù)據(jù)質(zhì)量、數(shù)據(jù)合規(guī)問題，到AI會(huì)否能帶來貧富分化、大面積失業(yè)，乃至腦補(bǔ)到AI對(duì)抗人類。
與以往的技術(shù)革命不同，AI變革著眼于人類核心的感知、認(rèn)知、記憶和推理能力，使得人工智能具備了像人一樣自主學(xué)習(xí)和解決問題的能力。挑戰(zhàn)歷史疊加挑戰(zhàn)人性，讓我們對(duì)AI的未來充滿謹(jǐn)慎和敬畏。我們的焦慮是，人類對(duì)自身的認(rèn)識(shí)仍存在許多未知領(lǐng)域，我們?nèi)绾未_保黑盒中的人工智能是安全可控的呢？當(dāng)人工智能的智力超越人類時(shí)，我們?cè)撊绾味ㄎ贿@種新的智能？
任何技術(shù)的發(fā)展都需要回歸以人為本的初心，確保技術(shù)能力為你我服務(wù)。在大模型“軍備競賽”的當(dāng)下，確保大模型“對(duì)齊”人類的價(jià)值觀和共識(shí)，才能避免偏離正確的發(fā)展軌道，進(jìn)而避免其傷及你我。
首先，大模型中的“對(duì)齊”(alignment)概念對(duì)我們有巨大的意義：大模型開發(fā)者要求AI系統(tǒng)與人類價(jià)值觀和基本利益保持一致，這樣才能給AI加上“緊箍咒”，避免它們做出偏離人類普世價(jià)值觀的事情。模型的規(guī)模和模型的潛在風(fēng)險(xiǎn)成正相關(guān)，模型越大，不確定性越高，對(duì)價(jià)值對(duì)齊的需求也就越強(qiáng)烈。沒有價(jià)值對(duì)齊的AI模型可能輸出不可估量的負(fù)面內(nèi)容或能力，這種負(fù)面能力可能幫助網(wǎng)絡(luò)黑產(chǎn)進(jìn)行群體攻擊、詐騙，可能誘導(dǎo)有負(fù)向價(jià)值傾向的人類走向不可逆的極端，包括沖突、傷害，或生產(chǎn)有類似情緒誘導(dǎo)作用的內(nèi)容。為了讓大模型更加安全、可靠，就需要盡可能地防止模型的有害輸出或?yàn)E用。這是當(dāng)前AI價(jià)值對(duì)齊的核心要義。
其次，除了機(jī)器與人的價(jià)值對(duì)齊，人與人之間的價(jià)值對(duì)齊也對(duì)AI的發(fā)展具有深遠(yuǎn)意義。我們常說，技術(shù)是中立的，但技術(shù)使用的場景卻有對(duì)錯(cuò)。我們需要在何種場景下正確使用通用技能達(dá)成共識(shí)，這是全人類目前面臨的關(guān)鍵問題。通用智能只有在正確合適的場景中應(yīng)用，才能推動(dòng)科技、商業(yè)、社會(huì)乃至全人類文明的發(fā)展。目前，智能化已成為人們得力的助手，提高了人類工作效率和生活質(zhì)量。在生產(chǎn)活動(dòng)中，機(jī)器人承擔(dān)了更多繁瑣重復(fù)的工作，極大地提高了生產(chǎn)效率和質(zhì)量。在生活中，智能家居、智能交通、智能醫(yī)療、智能金融等技術(shù)已經(jīng)有了一定普及，給人們帶來更便捷、舒適的生活體驗(yàn)。
我所在的金融科技行業(yè)，運(yùn)用AI在全流程業(yè)務(wù)中服務(wù)金融業(yè)務(wù)已經(jīng)多年：智能語音客服節(jié)省了人力成本，智能風(fēng)控系統(tǒng)加強(qiáng)了金融安全能力，智能反欺詐系統(tǒng)精準(zhǔn)識(shí)別了“黑灰產(chǎn)”風(fēng)險(xiǎn)。在數(shù)以千萬筆的金融科技交易中，AI觸角無處不在，提升著交易的效率和準(zhǔn)確度。不過我們始終堅(jiān)持著一個(gè)更核心要義，AI應(yīng)該讓我們變得更加追求善良，這是我們對(duì)AI的要求，也是對(duì)自身的要求。
AI的業(yè)務(wù)道德之外，社會(huì)道德和行事標(biāo)準(zhǔn)是更高的價(jià)值要求。我們需要警惕由技術(shù)發(fā)展不平衡帶來的貧富分化問題，思考如何公平分配通用智能的紅利，更好地連接弱勢(shì)群體。例如，我們可以擴(kuò)大AI在偏遠(yuǎn)地區(qū)教育中的應(yīng)用，降低教育質(zhì)量的地域差異�？偟膩碚f，AI應(yīng)該讓人類更團(tuán)結(jié)，而不是更分裂。
盡管挑戰(zhàn)和機(jī)遇并存，智能化社會(huì)已勢(shì)不可擋，我們應(yīng)該從現(xiàn)在開始做好擁抱通用智能的準(zhǔn)備。在個(gè)體層面，普羅大眾也在學(xué)習(xí)運(yùn)用AI工具讓生活更加便利，這個(gè)學(xué)習(xí)適應(yīng)的過程也許有點(diǎn)緩慢，但這就類似當(dāng)年我們學(xué)習(xí)使用電腦和手機(jī)的過程。第一步也許先是成為一個(gè)好的prompt engineer（提示工程師），給通用智能下有效的指令。未來，我們可以更關(guān)注做什么，而不是怎么做。
2024年，我們將繼續(xù)看到AI生態(tài)的進(jìn)步。第一，大模型會(huì)更側(cè)重應(yīng)用落地；第二，基礎(chǔ)模型會(huì)收斂，市面上不會(huì)有成百上千基礎(chǔ)模型版本；第三，會(huì)有更多企業(yè)關(guān)注怎樣做垂類模型；第四，AI生態(tài)將更加豐富。模型之外，我們也會(huì)看到硬件和架構(gòu)的快速演進(jìn)以及基于大模型的應(yīng)用興起。
讓技術(shù)歸于人本，讓AI對(duì)齊人性，硅基智能就一定能夠成為人類社會(huì)發(fā)展進(jìn)步的重要力量。讓我們一起來期待和見證新的一年人-機(jī)的更奇妙的連接，也讓我們一起來期待AI和我們一起創(chuàng)造更美好的未來。
陳磊
2023年12月
（作者系上海市人工智能高級(jí)工程師、信也科技副總裁）
