導(dǎo)讀：中信建投12月19日研報(bào)指出，12月15日，OpenAI超級(jí)對(duì)齊團(tuán)隊(duì)發(fā)布了成立以來(lái)的首篇論文，開辟了對(duì)超級(jí)模型進(jìn)行實(shí)證對(duì)齊的新研究方向。OpenAI認(rèn)為，比人類聰明得多的人工智能（超級(jí)智能）可以在未來(lái)十年之內(nèi)發(fā)展出來(lái)，然而如何正確的引導(dǎo)和控制超人的人工智能系...
中信建投12月19日研報(bào)指出，12月15日，OpenAI“超級(jí)對(duì)齊”團(tuán)隊(duì)發(fā)布了成立以來(lái)的首篇論文，開辟了對(duì)超級(jí)模型進(jìn)行實(shí)證對(duì)齊的新研究方向。OpenAI認(rèn)為，比人類聰明得多的人工智能（超級(jí)智能）可以在未來(lái)十年之內(nèi)發(fā)展出來(lái)，然而如何正確的引導(dǎo)和控制超人的人工智能系統(tǒng)仍然沒有得到很好的解決，解決AI的可控問題對(duì)于如何確保最先進(jìn)的人工智能系統(tǒng)始終安全并造福人類至關(guān)重要。在最新的研究中，OpenAI實(shí)現(xiàn)了從弱模型監(jiān)督強(qiáng)模型的任務(wù),OpenAI使用GPT-2模型來(lái)激發(fā)GPT-4的大部分能力，使其達(dá)到接近GPT-3.5級(jí)別的性能。實(shí)現(xiàn)了“弱到強(qiáng)泛化”（Weak-to-stronggeneralization），即讓小模型監(jiān)督大模型，為“超級(jí)對(duì)齊”提供了切實(shí)可行的技術(shù)路線。預(yù)期OpenAI將在“超級(jí)對(duì)齊”研究中取得持續(xù)突破，公司看好安全可控下的大模型行業(yè)發(fā)展前景。
